Крупнейшие разработчики ИИ сравнили опасность их технологий с пандемией и ядерной войной

Лидеры разработки искусственного интеллекта — OpenAI, Google Deepmind, Anthropic и других лабораторий — предупредили, что их будущие системы могут нести смертельную опасность для человечества.

Снижение рисков, связанных с внедрением ИИ, должно стать глобальным приоритетом наряду с другими рисками социального характера, такими как пандемия и ядерная война, говорится в заявлении некоммерческой организации Center for AI Safety (Центр безопасности ИИ).

Открытое письмо подписали свыше 350 руководителей, исследователей, инженеров и других специалистов, занятых в сфере ИИ. Среди них — топ-менеджеры крупнейших компаний: генеральный директор OpenAI Сэм Альтман, сооснователь Google DeepMind Демис Хассабис, а также генеральный директор Anthropic Дарио Амодеи. В начале мая они встретились с Джо Байденом и вице-президентом США Камалой Харрис, чтобы обсудить регулирование ИИ.

Разработка систем искусственного интеллекта несет определенные социальные риски — прежде всего прогнозируемое исчезновение ряда профессий. Есть также опасения, что их могут использовать для распространения дезинформации и пропаганды. Как пояснил директор Центра безопасности ИИ Дэн Хендрикс, открытое письмо представляет собой «публичное признание» для некоторых лидеров отрасли, которые осознают риски, связанные с их технологиями, но до сих пор говорили об этом в частном порядке.

• OpenAI известна как разработчик чат-бота на основе искусственного интеллекта ChatGPT. Подробнее о нем мы рассказали здесь.
• Google DeepMind — подразделение Alphabet Inc, которое занимается развитием искусственного интеллекта. Оно сформировалось на базе команды Brain из Google Research и команды DeepMind, ставшей частью Google после покупки одноименного стартапа.
• Anthropic основал в 2021 году бывший директор по исследованиям в OpenAI Дарио Амодей вместе с другими ушедшими из компании сотрудниками. Стартап разработал чат-бот Claude, который с января этого года находится в закрытом тестировании.

Узнайте больше

Власти Евросоюза в середине мая опубликовали законопроект о регулировании искусственного интеллекта (AI Act). Это первый в мире всеобъемлющий документ такого рода, вызвавший настоящий вал критики. The Bell разобрался, насколько она обоснованна.