logo

«ИИ нужно учить, как ребенка». Топ-менеджер Alibaba Group рассказал, как предотвратить восстание машин

китаец и боевые машины пехоты
Фото: Антон Буценко, Анна Коваленко, 66.RU

Ролевые игры с ИИ, имитирующие конфликты государств, показали — в 95% случаев их участники готовы применить ядерное оружие. Нейросеть может выйти из-под контроля и нажать красную кнопку, говорят ученые. Профессор Хэ Бинцюань, проработавший 13 лет в компании Alibaba, считает, что их опасения напрасны. Своими доводамии он поделился с участниками екатеринбургского форума «Контур Фест».

Искусственного интеллекта люди боятся не меньше, чем паровых машин или интернета, но с теми страхами они справились, рассуждает Хэ Бинцюань. По его словам, Китай, США и Россия готовы взять ИИ под контроль с помощью законов и правил.

«Давайте сравним искусственный интеллект с ребенком, — говорит профессор. — Родители учат детей не только завязывать шнурки, но и готовят к жизни в обществе — объясняют, что можно делать, а чего нельзя. С ИИ то же самое — мы показываем ему красную линию, которую нельзя переходить. Нейросеть принимает заданные ограничения, поэтому человек всегда контролирует ситуацию, а машина знает свои границы».

Компания Alibaba, которая 20 лет занималась электронной коммерцией, хочет зарабатывать на инфраструктуре для ИИ — чипах, облачных платформах, моделях ИИ и вычислительных мощностях. Это направление растет быстрее, чем доходы маркетплейсов.

Профессор приводит цифры — в 2026 году российский бизнес AliExpress увеличился на 12,5%. За это время три миллиарда пользователей выбрали модели ИИ, разработанные Alibaba. Последние три года выручка компании от ИИ-продуктов удваивалась каждый квартал.

За счет прибыли компания построила 400 ИИ-классов в горных деревнях Китая и передала учителям 360 тысяч облачных аккаунтов, чтобы дети не видели в искусственном интеллекта потенциального противника.            

  •   Замглавы Минцифры Александр Шойтов объявил, что в России создают закон об искусственном интеллекте. Одно из направлений, требующих регулирования, связано с обезличиванием данных. Чиновник отметил также, что любая высокая технология несет с собой риски, поэтому «нужно находить баланс между безопасностью и экономической эффективностью».