В промежуточном отчете о безопасности искусственного интеллекта (ИИ) подчеркивается отсутствие универсального согласия среди экспертов по ИИ по ряду тем, включая как состояние текущих возможностей ИИ, так и то, как они могут развиваться с течением времени.
Международный научный доклад о безопасности передового ИИ было одним из ключевых обязательств, вытекающих из дискуссий в Блетчли-Парке в рамках знаковой Декларации Блетчли.
В отчете рассматриваются различные мнения о вероятности экстремальных рисков, которые могут повлиять на общество, таких как крупномасштабная безработица, терроризм с использованием ИИ и потеря контроля над технологиями.
Эксперты, принявшие участие в подготовке отчета, в целом согласились с тем, что обществу и политикам в правительстве необходимо уделить приоритетное внимание улучшению понимания влияния технологий искусственного интеллекта.
Председатель отчета Йошуа Бенджио сказал: «При ответственном использовании, разработке и регулировании ИИ обладает невероятным потенциалом стать силой позитивных преобразующих изменений практически во всех аспектах нашей жизни. Однако из-за масштабов воздействия, двойного использования и неопределенности будущих траекторий всем нам необходимо работать вместе, чтобы смягчить связанные с этим риски, чтобы иметь возможность в полной мере воспользоваться этими выгодами.
«Правительства, научные круги и общество в целом должны продолжать продвигать программу безопасности ИИ, чтобы гарантировать, что мы все можем использовать ИИ безопасно, ответственно и успешно».
Первоначально представленный как отчет о состоянии науки в ноябре прошлого года, отчет объединяет разнообразную глобальную команду экспертов по искусственному интеллекту, в том числе экспертную консультативную группу из 30 стран, занимающихся искусственным интеллектом, а также представителей Организации Объединенных Наций и Европейского Союза.
Государственный секретарь по науке, инновациям и технологиям Мишель Донелан заявила: «Основываясь на импульсе, который мы создали в ходе наших исторических переговоров в Блетчли-Парке, этот отчет гарантирует, что мы сможем безопасно и ответственно использовать невероятные возможности ИИ на десятилетия вперед.
«Работа Йошуа Бенджио и его команды сыграет существенную роль в наших дискуссиях на саммите искусственного интеллекта в Сеуле на следующей неделе, поскольку мы продолжаем развивать наследие Блетчли-Парка, используя лучшие доступные научные данные для продвижения глобального диалога. о безопасности ИИ».
В промежуточном отчете рассматривались передовые ИИ «общего назначения», включая системы ИИ, которые могут создавать текст и изображения и принимать автоматизированные решения. Ожидается, что окончательный отчет будет опубликован к саммиту AI Action Summit во Франции, но теперь в него будут включены данные промышленности, гражданского общества и широкого круга представителей сообщества AI.
В Министерстве науки, инноваций и технологий заявили, что эта обратная связь будет означать, что отчет будет идти в ногу с развитием технологии, обновляться с учетом последних исследований и расширяться по ряду других областей, чтобы обеспечить комплексное представление о передовых рисках ИИ.
«Срочно необходимо демократическое управление ИИ на основе независимых исследований, а не шумихи», — сказала Мариетье Шааке, директор по международной политике Центра киберполитики Стэнфордского университета.
«Промежуточный Международный научный отчет анализирует мнения экспертов об эволюции искусственного интеллекта общего назначения, его рисках и будущих последствиях. Хотя многое остается неясным, необходимы действия общественных лидеров, чтобы информировать общество об ИИ и смягчить нынешний вред, такой как предвзятость, дезинформация и риски национальной безопасности, одновременно готовясь к будущим последствиям появления более мощных систем ИИ общего назначения».
