«Крестный отец» ИИ спрогнозировал катастрофу масштаба аварии на Чернобыльской АЭС

Один из пионеров искусственного интеллекта Джеффри Хинтон предупредил о возможной катастрофе из-за нейросетей. В интервью The Guardian ученый сравнил ее с аварией на Чернобыльской АЭС, но подчеркнул, что речь не идет о ядерном происшествии.

«Либо в этом, либо в следующем году мы увидим Чернобыль, и этого может быть достаточно, чтобы люди по-настоящему обратили на это внимание», — заявил Хинтон.

По его словам, искусственный интеллект могут использовать для атаки на систему производства электроэнергии, что приведет к масштабным отключениям света. Другой возможный сценарий — сбой, который парализует финансовую систему на целую неделю. Хинтон считает, что подобный кризис заставит мировых лидеров серьезнее отнестись к угрозам новых технологий.

Ученый предложил обязать разработчиков проверять мощные модели ИИ до их выпуска. По его мнению, независимые специалисты должны оценивать безопасность нейросетей так же, как регулирующие органы проверяют лекарства перед продажей. При этом Хинтон не считает катастрофу неизбежной и надеется, что люди смогут сохранить контроль над искусственным интеллектом.

• Ранее другой исследователь ИИ, Нейт Соарес, перестал копить на пенсию, поскольку опасается вымирания человечества из-за развития нейросетей. По его оценке, вероятность такого сценария превышает 50%, а произойти это может уже к 2036 году.