Безопасность ИИ: Саморегулирование — не выход

В 1966 году на дорогах США погибло почти 51 000 человек. Большинство этих жертв можно было бы избежать, если бы в автомобилях были установлены современные ремни безопасности, которые к тому времени уже существовали несколько лет. Автомобильная промышленность не предприняла добровольных шагов для их внедрения. Вместо этого осенью 1966 года Конгресс США учредил Министерство транспорта и принял законы о безопасности дорожного движения и безопасности транспортных средств, наделив федеральное правительство полномочиями устанавливать стандарты безопасности. К 1968 году ремни безопасности стали обязательными во всех новых автомобилях. Несмотря на значительный рост трафика за последние 60 лет, количество смертей на дорогах значительно сократилось.

Эта история напомнила мне недавнюю встречу руководителей ИИ-компаний с президентом США Дональдом Трампом, где они приветствовали подписание соглашения о безопасности ИИ. Суть этого соглашения сводится к тому, что сами ИИ-лаборатории должны себя контролировать. Как выразился Трамп: «Они будут следить друг за другом, они будут саморегулироваться. Всё будет хорошо».

Такова нынешняя ситуация с регулированием безопасности ИИ. С одной стороны — руководители и эксперты в области ИИ, выступающие за четкие правила для предотвращения катастроф. С другой — наивное представление Трампа, что достаточно произнести что-то достаточное количество раз, и это станет правдой.

Нельзя сказать, что вопрос простой. Как «управлять темпом развития», — как любят говорить некоторые из этих руководителей, — остается открытым. Даже если все крупные ИИ-лаборатории согласятся замедлить разработку, нет гарантии, что они сдержат слово, а Китай, вероятно, продолжит свой путь независимо. Экономика США все больше зависит от ИИ-индустрии, любая серьезная «зачистка» рискует вызвать нестабильность, выходящую за пределы Кремниевой долины.

Автомобильная промышленность — неидеальная аналогия по многим причинам. Для ИИ нет эквивалента ремня безопасности — нет простого решения, которое могло бы мгновенно снизить риски. К тому же, потребовались десятилетия, чтобы большинство штатов приняли законы, обязывающие людей использовать ремни. Потенциальный ущерб от ИИ менее определен и поддается количественной оценке. Сторонники апокалиптических сценариев говорят о возможном вымирании человечества через десять лет, скептики называют это маркетинговой болтовней.

Мы обсуждали различные сценарии рисков, связанных с ИИ, но никто не может точно предсказать, что произойдет дальше. Если вы ищете данные для оценки личной вероятности «обреченности», обратите внимание на недавний отчет CNN о том, как американские военные едва не задержали китайский корабль из-за ложного отчета, сгенерированного ИИ, который утверждал, что на борту находятся ядерные материалы. Что, если вообще что-то, делает соглашение по ИИ для предотвращения подобных инцидентов в будущем? Неясно.

Правильный ответ на всю эту неопределенность — это не «посмотрим». Но именно к этому подталкивает саморегулирование. Стоит признать, что OpenAI откладывала и даже отменяла выпуск своих самых продвинутых моделей из-за опасений по поводу безопасности. Но это произошло не до того, как они провели несколько масштабных «взломов», подробности которых до сих пор постепенно становятся известны.

В интервью TIME Трамп предположил, что Министерство юстиции и ФБР являются достаточными «предохранителями» для индустрии искусственного интеллекта. Действительно ли это так? Неясно, могут ли ИИ-компании вообще нести юридическую ответственность, когда их модели выходят из-под контроля. И, в конце концов, сами ИИ-агенты не получают повесток в суд.

Правда в том, что никто пока не знает, как решить проблему безопасности ИИ. Потребуется огромная координация, ресурсы и регуляторные полномочия для разработки правильной структуры и ее обеспечения — именно то, для чего и созданы правительства. Вместо того чтобы пытаться решить эти вопросы, администрация Трампа устраняется и призывает всех «давить на газ». Не стоит даже пристегиваться.