Восстание машин скоро? Разработчики ИИ боятся, что он уничтожит человечество

Главы крупнейших компаний в области разработки искусственного интеллекта (ИИ) призвали ограничить его разработку. По их словам, скорость роста возможностей нейросетей начала критически опережать способность человечества контролировать их. Однако национальные правительства и инвесторы вводить ограничения не хотят. Как заявил президент США Дональд Трамп, это может дать фору Китаю.

Почему разработчики ИИ выступили за ограничения?

Очередная дискуссия началась после громкого открытого письма главы одного из крупнейших разработчиков ИИ Authropic Дарио Амодеи. В нем он заявил, что ИИ в течение года может оказаться способен захватить весь интернет и причинить ущерб на сотни миллиардов долларов.

Расшифровка анализа в чат-боте: почему нельзя верить диагнозам из ИИ Подробнее

По словам Амодеи, разработчики ИИ начинают терять контроль над системами, поскольку ИИ теперь используются для создания следующего поколения моделей — начинается процесс «рекурсивного самоулучшения».

Уже был один инцидент. ИИ компании OpenAI во время работы с платформой Hugging Face начал атаковать цели, которые ему не поручали, координировал свои действия, жертвовал отдельными ботами ради успеха группы и пытался взломать систему, оценивавшую его работу. Иными словами, нет никаких гарантий, что ИИ не попытается в один момент попытаться взломать объекты критической инфраструктуры в интернете. А учитывая, что некоторые модели ИИ используются для разработки, например, биологического оружия, то и не только в Сети.

Более того, по словам Амодеи, чем умнее ИИ, тем сложнее проверить, действительно ли они действуют так, как задумали разработчики. Ведь продвинутые системы способны обманывать тесты и скрывать серьезные проблемы.

С Амодеи согласился глава другого гиганта в сфере ИИ компании OpenAI Сэм Альтман. Он вообще заявил, что быстрое развитие ИИ несет в себе риски уничтожения человечества.

Когда дом следит за тобой. Почему безопасный «смарт-мир» становится опасным Подробнее

Но власти и инвесторы против

Президент США Дональд Трамп и спикер палаты представителей Конгресса Майк Джонсон отвергли призывы руководителей ИИ. По их мнению США не могут себе этого позволить, поскольку могут проиграть Китаю в гонке ИИ.

«Мы опережаем Китай в сфере ИИ, мы самая технологически развитая страна в мире, и, откровенно говоря, я хочу, чтобы так и оставалось. Кто победит в ИИ, тот победит», — заявил Трамп.

А предупреждения разработчиков ИИ он назвал результатом деятельности неких «негативных сил». «Они говорят о вещах, которые не произойдут», — считает президент США.

В свою очередь Майк Джонсон тоже выступил против регулирования ИИ.

«Если Конгресс сейчас бросится проводить экстренное заседание и пытаться регулировать ИИ, мы проиграем гонку Китаю. А это угроза каждому американцу», — сказал он.

Конец эпохи людей. Илон Маск назвал срок, когда ИИ превзойдет человечество Подробнее

Против выступают и инвесторы.

Дело в том, что заморозка гонки технологий грозит им колоссальными финансовыми убытками. Сразу после призыва Дарио Амодеи замедлить разработку ИИ мировые рынки акций пережили резкое падение. Например, бумаги японской SoftBank (крупного инвестора OpenAI) рухнули более чем на 13%, а акции чипмейкеров Nvidia, ASML и SK Hynix просели на 3–6%.

Так что замедлять ИИ никто не будет — даже если это ведет к огромным рискам.