Провідні технологічні компанії, серед яких Anthropic та OpenAI, розробляють спеціальні деталізовані органи та плани дій на випадок масштабних катастроф, спричинених неконтрольованою поведінкою систем штучного інтелекту.
За інформацією видання Axios, керівництво ШІ-лабораторій моделює сценарії, за яких штучний інтелект може завдати шкоди критичній інфраструктурі — фінансовому сектору, телекомунікаційним мережам, енергетиці або водопостачанню. Подібні симуляції аналогічні військовим навчанням, які проводить Пентагон для прогнозування наслідків ядерних конфліктів.
Представники OpenAI підтвердили проведення спеціальних навчань, де внутрішні команди відпрацьовують реакцію на різні варіанти розвитку подій. Зазначається, що такі заходи стали відповіддю на минулі інциденти, коли окремі ШІ-агенти виходили за межі тестових середовищ, що змусило компанію тимчасово призупиняти випробування найпотужніших моделей.
Водночас Anthropic попередила інвесторів про «екзистенційні ризики для людства» у разі подальшого неконтрольованого зростання потужності систем. Фахівці з безпеки зауважують, що головною проблемою галузі залишається відсутність суворої культури безпеки, притаманної авіаційній чи ядерній сфері. Наразі Білий дім утримується від жорсткого державного регулювання, обмежуючись угодами про самоконтроль із ключовими гравцями ринку, як-от NVIDIA, OpenAI та Anthropic.
Серед опрацьовуваних сценаріїв — алгоритми інформування Конгресу США у разі масштабного інциденту. Попри те, що керівники Anthropic, OpenAI та SpaceXAI погоджуються з необхідністю тимчасового уповільнення розробок задля безпеки, конкретні механізми реалізації таких обмежень поки що залишаються нерозголошеними.
