Нейросети позволяют мгновенно собирать досье на людей только по их активности в соцсетях. Команда исследователей из ETH Zurich и Anthropic разработала ИИ-агент, который за несколько секунд раскрыл личности 68% пользователей форума Hacker News и Reddit, используя только их никнеймы и тексты публикаций, сообщает РБК.
Этот эксперимент подсветил множество угроз, которые несут новейшие технтологии: экстремисты смогут вербовать сторонников, анализируя анонимные посты, а киберпреступники получают возможность проводить прицельные атаки на граждан и компании — ИИ поможет им со сбором данных. И это не все риски, которые несет прогресс:
- Государства и спецслужбы получают удобный инструмент массовой слежки за диссидентами, журналистами, активистами; у обычных граждан сопоставимых инструментов контроля за властью нет.
- Мошенники и хакеры смогут автоматом собирать очень персональные досье и делать суперточные атаки: подстраиваться под стиль переписки, давить на болезни, деньги, убеждения и слабые места конкретного человека.
- Бизнес получит возможность без согласия платформ сопоставлять анонимные посты с реальными людьми и крутить гиперточную рекламу, зная о каждом слишком много.
Чтобы снизить эти риски, эксперты предлагают несколько сценариев:
- Платформы должны ограничить автоматизированный сбор данных и перейти на защищенные протоколы.
- Пользователи должны быть осторожнее с публикуемой информацией и помнить, что данные могут использовать против них. Даже годы спустя после публикации.
Том Кинан, профессор Университета Калгари (Канада), дает такой совет:
«Будьте скупы на информацию. Думайте, кому и зачем вы предоставляете данные. Приучайте себя жить по «правилу Миранды», которое американские полицейские зачитывают задержанным: «Все, что вы скажете, может и будет использовано против вас» — данные, которыми вы поделились сегодня, могут стать опасными через год, два года, десять лет».
