Правительство предоставило рекомендации, которые помогут разработчикам искусственного интеллекта (ИИ) улучшить кибербезопасность в моделях ИИ.
Министерство науки, инноваций и технологий (DSIT) заявило, что меры, направленные на разработчиков, установят глобальный стандарт защиты моделей искусственного интеллекта от взлома. Правительство надеется, что кодексы практики помогут предприятиям внедрять инновации и стимулировать экономический рост по всей стране, а также составят основу будущего глобального стандарта.
Розамунд Пауэлл, научный сотрудник Института Алана Тьюринга, сказала: «Системы искусственного интеллекта сопряжены с широким спектром рисков кибербезопасности, которые часто остаются без внимания, поскольку разработчики спешат развернуть новые возможности. Выпущенный сегодня свод правил предоставляет столь необходимую практическую поддержку разработчикам в том, как реализовать подход, основанный на проектировании, в рамках процесса проектирования и разработки ИИ.
«Планы по созданию основы глобального стандарта имеют решающее значение, учитывая центральную роль, которую международные стандарты уже играют в решении проблем безопасности ИИ посредством глобального консенсуса. Исследования подчеркивают необходимость создания инклюзивных и разнообразных рабочих групп, сопровождаемых стимулами и повышением квалификации тех, кто в них нуждается, чтобы обеспечить успех подобных глобальных стандартов».
В DSIT заявили, что кодексы устанавливают требования к разработчикам по обеспечению устойчивости своих продуктов к несанкционированному вмешательству, взлому и саботажу, чтобы повысить уверенность в использовании моделей искусственного интеллекта в большинстве отраслей.
«Нам всегда было ясно, что для использования огромного потенциала цифровой экономики нам необходимо создать безопасную среду для ее роста и развития», — сказал министр технологий Сакиб Бхатти. «Именно это мы и делаем с помощью этих новых мер, которые помогут сделать модели ИИ устойчивыми уже на этапе проектирования.
«Сегодняшний отчет показывает, что мы не только делаем нашу экономику более устойчивой к атакам, но также обеспечиваем процветание и возможности гражданам Великобритании по всей стране», — сказал он. «Приятно видеть такой уверенный рост в отрасли, который помогает нам укрепить позицию Великобритании как мирового лидера в области кибербезопасности, поскольку мы по-прежнему привержены делу содействия безопасному и устойчивому развитию цифровой экономики».
Ежегодный правительственный Отчет о киберотраслевом анализе показывает, что за последние 12 месяцев половина предприятий (50%) и треть благотворительных организаций (32%) сообщили о кибернарушениях или атаках. В отчете говорится, что фишинг остается наиболее распространенным типом взлома.
Фелисити Освальд, исполнительный директор Национального центра кибербезопасности, сказала: «Чтобы максимально использовать технологические достижения, которые могут изменить наш образ жизни, кибербезопасность должна лежать в основе того, как мы разрабатываем цифровые системы.
«Новые кодексы практики помогут поддержать нашу растущую индустрию кибербезопасности в разработке моделей и программного обеспечения искусственного интеллекта таким образом, чтобы обеспечить их устойчивость к вредоносным атакам».
Кевин Карран, старший член IEEE и профессор кибербезопасности, сказал, что предприятиям необходимо опережать потенциальные угрозы. «Среда угроз постоянно меняется, поэтому организациям необходимо идти в ногу со временем и обеспечивать регулярный анализ и модернизацию своей защиты», — сказал он.
«Некоторые подходы, которые работали всего несколько лет назад, теперь устарели, и, учитывая, как быстро в последние месяцы внедрялся искусственный интеллект, предприятия должны принять более комплексные стратегии и инструменты защиты данных для защиты своих систем».
