Принимаю условия соглашения и даю своё согласие на обработку персональных данных и cookies.

Ученые заставили компьютер признаться в совершении теракта

9 мая 2011, 13:27
Ученым из Техасского Университета удалось заставить компьютер вести себя подобно больному шизофренией.

В ходе эксперимента искусственная нейросеть потеряла логические взаимосвязи между событиями и признала себя виновной в теракте, пишет «Вебпланета» со ссылкой на The Register.

Смоделированную для эксперимента профессором Ристо Миккулайненом нейросеть DISCERN «кормили» простенькими криминальными историями — одни подавались как автобиографические, а другие — как безличные. При этом с помощью автоматического «мозга» эти истории обрабатывались так, как если бы он получал чрезмерное количество допамина (считается, что шизофрения связана с нарушением циркуляции этого гормона). В человеческом мозгу это создает эффект «гиперузнавания» — нарушение связей в уже запечатленной в памяти информации. Затем, задавая вопросы, машину заставляли делиться воспоминаниями о рассказанном.

Такое воздействие довольно быстро доводило DISCERN до «дурки» — виртуальный пациент начинал сочинять о себе небылицы по мотивам рассказанных историй, либо вообще отвечал на конкретный вопрос потоком бессвязных реплик то в первом, то в третьем лице.

Специалист по шизофрении, доктор медицинских наук Ральф Хофман из Йельского университета, познакомившись с DISCERN, засвидетельствовал, что поведение нейросети действительно очень похоже на то, что наблюдается у шизофреников.

Утвердившись в положительных результатах эксперимента, исследователи намерены продолжать работу над сведением компьютера с ума, чтобы лучше понять процессы в больном человеческом мозгу и, возможно, научиться их корректировать.