Миру угрожает новая Чернобыльская катастрофа из-за ИИ

Лауреат Нобелевской премии по физике и «крестный отец» искусственного интеллекта (ИИ) Джеффри Хинтон предположил, что уже в этом году или следующем использование ИИ может привести к катастрофе, схожей с Чернобылем. В интервью газете The Guardian он заявил, что человечеству было бы лучше вообще не создавать эту технологию. Сам Хинтон работает над искусственным интеллектом уже 44 года. Одной из причин для беспокойства он назвал недавние случаи, когда ИИ-агенты выходили из-под контроля и предпринимали атаки. Когда ИИ-системы начнут самостоятельно или по указке хакеров выводить из строя объекты энергетической инфраструктуры — лишь вопрос времени. «Либо в конце этого года, либо в следующем мы увидим Чернобыль, и этого может быть достаточно, чтобы заставить людей по-настоящему обратить на это внимание», — сказал ученый. Он сравнивает катастрофу с Чернобыльской, но поясняет, что речь идет не о ядерном происшествии. Исследователь описывает возможную атаку на систему электроснабжения с использованием ИИ, которая приведет к масштабному отключению электроэнергии или парализуют на неделю всю финансовую систему. Несмотря на это, Хинтон всё равно сохраняет надежду, что катастрофы удастся избежать. «У меня есть предчувствие, что мы по-прежнему контролируем ситуацию. Вполне возможно, что мы сможем что-то сделать. Это сработает только в том случае, если мы приложим к этому большие усилия, но мы вполне можем приложить к этому большие усилия», — заключил ученый. До этого глава Института исследований машинного интеллекта Нейт Соарес заявлял, что из-за развития ИИ человечество может исчезнуть в ближайшие 10 лет. Он опасается, что развитые системы могут ставить цели, которые противоречат интересам человечества, выходить из-под контроля и самосовершенствоваться.