У нейросетей нет морали
Нейросеть — это в первую очередь алгоритм, а не человек. Если чуть детальнее — это модель, которую обучил человек на определенном наборе данных выполнять определенную задачу или задачи.
Чтобы нейросеть давала нам хорошие, качественные предсказания, нужны хорошие, качественные исходные данные в больших количествах. Допустим, мы хотим узнать погоду. Тогда мы берем данные за предыдущие 100 лет наблюдения: температуру, ветер, облачность и т. д., формируем требования к переменной, которую мы хотим предсказывать, готовим датасет с учетом вводных и требований к выполнению задачи — и получаем показательную модель, на основе которой наша нейросеть может предсказать, что будет сегодня или завтра.
Качество работы модели — это всегда работа какого-то эксперта или экспертов, которые готовят среду для ее обучения. Именно от этих людей зависит, насколько правильной будет модель, насколько она будет этична и как часто будет ошибаться. Поэтому когда мы говорим про этику и мораль, мы говорим не про кодекс этики нейросети, а про кодекс этики, который закладывают в нее ее создатели.
Еще рано отождествлять нейросети и человека
У некоторых есть иллюзия, что нейросеть мыслит так же, как человек. Что она обучается так же, как он. Но человек другой. Если у вас есть маленький ребенок, вы думаете, что вы его учите. Но на самом деле он растет и учится сам. У него это изначально заложено природой. Часть информации ребенок действительно получает от мамы, папы, школы, учителей. Но это, как ни странно, незначительная часть информации.
Нейросети, в отличие от ребенка, при обучении получают только данные, которые в них заложил человек. Нет нейросетей, которые бы обучались, так скажем, в чистом поле или бесконтрольно. Нет пока никаких параллелей с общим интеллектом, который есть у человека и который взрослеет, развивается, получает информацию, что-то забывает, что-то помнит. Поэтому говорить и передавать нейросетям какие-то человеческие качества — это неправильно. К инструментам надо относиться ровно так, как они этого заслуживают. Не надо наделять их какими-то сущностями и функциями, которых у них нет.
Они не обладают творчеством. Взять, например, любую нейросеть, которая рисует: она просто посмотрела большую подборку картинок каких-то художников и на основе этих знаний выстраивает модель. Если бы не было художников, она бы ничего не сделала. Для нее очень важны исторические данные: если их нет, то она ничего не сможет создать и придумать с нуля. Это проблема холодного старта.
Сейчас нейросети практически никогда не обладают свойством принимать решения. Они выступают в роли системы, которая помогает в принятии решений. Они ограничены определенными алгоритмами.
Наверное, это когда-нибудь изменится — возможно, даже в горизонте 20–30 лет. Но сейчас говорить о том, что есть нейросети, которые осознают себя, нельзя. И, на мой взгляд, это хорошо, потому что инструмент должен быть инструментом — предсказуемым и выдающим правильный результат.
Нейросеть не может вести себя непредсказуемо, если вы правильно подготовили данные. Другое дело, что бывают случаи, когда она выдает результат, который вы не ждали. Но даже в этом случае, если начать разбираться, мы придем к тому, что ее обучили на неправильных данных.
Нейросети деградируют — это единственное, что объединяет их с человеком
Как и любая компьютерная программа, нейросеть перестает существовать, как только вы выключите компьютер, на котором она «крутится».
Единственное, что похоже у человека и нейросети, — это жизненный путь человека, в основе которого есть деградация. Модели со временем деградируют. Это происходит из-за того, что данные устаревают. В определенный момент модель становится неактуальной.
Но в то же время модели могут дообучаться — это продлевает их жизнь.
Чем больше людей будут узнавать, как устроены нейросети «под капотом», тем скорее они перестанут быть чем-то магическим
Определенная категория людей знает про искусственный интеллект и нейросети абсолютно все. Есть большая масса тех, кто имеет о них рациональное и адекватное представление. А есть малая часть тех, кто нерационально и неадекватно воспринимает нейросети как какую-то магию.
Число людей, которые понимают, как заглянуть «под капот» нейросети, растет. Так, они начинают видеть, что это просто типичный инструмент, в котором нет никакой магии.
Так происходит всегда со всеми техническими новшествами. Приведу любимый пример: давным-давно появились первые паровозы и железные дороги. Тогда для многих это было волшебством, потому что инженеров было немного. А для основной массы паровоз казался просто магической железной повозкой, которая шумит, дымит и гремит. Сейчас, наверное, все понимают, как работает паровоз и что никакой магии в нем нет.
То же самое ждет нейросети. Сейчас это новый инструмент, который пока не обрел массового представления о своей работе. Но все больше и больше людей его изучают и начинают в нем разбираться.
