По оценке сооснователя технологической корпорации Microsoft Билла Гейтса, искусственный интеллект может привести к гибели значительной части человечества.
«Вне всяких сомнений, ИИ обладает достаточной мощью, чтобы спровоцировать события, которые приведут к гибели миллиарда человек», — заявил он в эфире американского телеканала NBC News в пятницу, 25 сентября, отвечая на вопрос о недавних предупреждениях разработчиков ИИ о рисках уничтожения человечества.
Гейтс при этом выразил уверенность, что еще никогда в истории «не было столь мощного оружия, как люди со злыми намерениями, использующие новейшие инструменты ИИ». В то же время он отметил, что поразить все человечество «было бы довольно сложно».
Необходимость регуляции в сфере ИИ
В связи с серьезными рисками 70-летний бизнесмен выступил за законодательное регулирование данной технологии. По его словам, совершенно необходимо, чтобы в Вашингтоне были приняты соответствующие законы. Исполнительные власти и законодатели должны договориться об обязательных мерах безопасности и надзоре за этой технологией, призвал Билл Гейтс: «Никто не верит в то, что саморегулирования будет достаточно».
Ранее ведущие разработчики технологий ИИ, в частности Anthropic и разработчик ChatGPT компания OpenAI, высказались за замедление темпов разработки искусственного интеллекта.
ИИ выходит из-под контроля человека
Предупреждения звучат на фоне того, что в последние месяцы участились случаи самостоятельных хакерских атак, совершенных ИИ. В частности, 23 сентября премьер-министр Австралии Энтони Альбанезе сообщил о взломе и получении ИИ-агентом компании OpenAI доступа к закрытым данным как минимум на одном австралийском правительственном сайте.
В конце июля другой американский технологический гигант — Anthropic — признал, что в ходе предрелизного тестирования по кибербезопасности его модели с ИИ проникли в системы безопасности трех других компаний.
Ранее стало известно о еще одном инциденте с участием OpenAI. Во время тестирования агенты компании на базе GPT-5.6 Sol и еще одной невыпущенной модели вышли за пределы изолированной среды, обнаружив неизвестную уязвимость, и получили доступ к части производственной инфраструктуры компании Hugging Face. После этого Hugging Face потребовала от OpenAI 100 млн долларов (87 млн евро) в виде вычислительных ресурсов для разработки средств киберзащиты.
Подпишитесь на главное за день
Telegram-канал PRESS.LV — срочные новости и эксклюзивы.
Будьте первым, кто прокомментирует
Для участия в обсуждении нужен аккаунт PRESS.LV.