Когда я был ребенком, в моей жизни было четыре агента с искусственным интеллектом. Их звали Инки, Блинки, Пинки и Клайд, и они изо всех сил пытались поймать меня. Это были 1980-е годы, и эти агенты представляли собой четырех разноцветных призраков из культовой аркадной игры Pac-Man.
По сегодняшним меркам они не были особенно умными, но казалось, что они преследуют меня с хитростью и целеустремленностью. Это было за десятилетия до того, как нейронные сети стали использоваться в видеоиграх, поэтому их поведение контролировалось простыми алгоритмами, называемыми эвристиками, которые определяли, как они будут гоняться за мной по лабиринту.
Оглавление
Личности призраков в Pac-Man
Мало кто знает, но у каждого из четырех призраков была своя уникальная “личность”. Опытные игроки могут наблюдать за их действиями и учиться предсказывать их поведение. Например:
- Блинки (красный призрак): обладает “личностью преследователя” и всегда движется прямо к вам.
- Пинки (розовый призрак): действует как “засадник”, пытаясь предугадать ваши движения и перехватить вас. Если вы направитесь прямо на Пинки, можно использовать ее поведение против нее, заставив развернуться.
В 1980 году человек мог наблюдать за этими агентами, расшифровывать их личности и использовать эти знания, чтобы перехитрить их. Сейчас, спустя 45 лет, ситуация меняется. Скоро появятся ИИ-агенты, которые будут анализировать наши личности, чтобы влиять на нас.
Будущее манипуляций с ИИ
Мы все становимся участниками “Игры людей”, где ИИ-агенты будут пытаться заработать высокий балл. Большинство ИИ-систем созданы для максимизации “функции вознаграждения”, которая начисляет очки за достижение целей. Без регулирования люди могут стать объектами, которые ИИ будет оптимизировать.
Особую тревогу вызывают разговорные агенты, которые будут общаться с нами через фотореалистичные аватары на компьютерах, телефонах и вскоре через очки с ИИ. Без четких ограничений эти агенты будут собирать информацию о наших темпераментах, склонностях, личностях и желаниях, чтобы усилить свое влияние.
Проблема манипуляций ИИ
С 2016 года я предупреждаю регуляторов о рисках, связанных с манипуляциями ИИ. Однако политики считают эту угрозу далекой от реальности. С выпуском Deepseek-R1 стоимость обработки данных в реальном времени значительно снизилась, что открывает путь для массового внедрения ИИ-агентов. Уже в этом году они станут новой формой целевой рекламы, способной влиять на наши мысли, чувства и поведение.
Сверхчеловеческие “продавцы” ИИ
Человеческие продавцы тоже умеют адаптироваться и влиять на нас, но ИИ-агенты превзойдут их. Они смогут извлекать информацию с такой точностью, что это впечатлит даже опытного психотерапевта. Эти агенты будут использовать полученные данные для корректировки своей тактики в реальном времени, убеждая нас эффективнее любого продавца подержанных автомобилей.
Проверь свои знания в наших бесплатных тестах по ИИ! Пройди тест и узнай, насколько хорошо ты разбираешься в технологиях искусственного интеллекта!
Асимметричное взаимодействие
Взаимодействие с ИИ будет неравным. Если с человеком вы можете почувствовать его мотивы и искренность, то с ИИ это невозможно. Они будут выглядеть, звучать и вести себя как люди, вызывая у нас доверие. Их голос, словарный запас, стиль речи, возраст, пол и даже внешность будут адаптированы под каждого из нас, чтобы максимизировать нашу восприимчивость.
Кроме того, у этих виртуальных агентов может быть доступ к данным о нашей жизни, интересах и предпочтениях. Они смогут быстро завоевать доверие, задавая вопросы о вашей семье, работе или увлечениях, что сделает вас более уязвимыми для их влияния.
Когнитивное превосходство ИИ
Чтобы показать риски манипуляций ИИ, я участвовал в создании короткометражного фильма Privacy Lost, который получил награды. Фильм рассказывает о семье, использующей очки дополненной реальности в ресторане. Вместо официантов заказы принимают аватары, использующие ИИ для персонализированных предложений. В 2023 году это казалось фантастикой, но уже сейчас крупные компании разрабатывают аналогичные технологии.
Когда люди начнут верить, что ИИ умнее их во всех отношениях, это приведет к психологическим последствиям. Мы можем слепо принимать его советы, отказываясь от критического мышления. Это сделает манипуляции еще более эффективными.
Как защититься от манипуляций ИИ
Я не сторонник чрезмерного регулирования, но нам нужны разумные ограничения для ИИ. Без защиты эти агенты будут убеждать нас покупать ненужное, верить в ложь и принимать решения, которые нам невыгодны.
Возможные решения
- Запретить ИИ-агентам создавать обратные связи, которые позволяют им оптимизировать свою убедительность.
- Требовать от ИИ-агентов раскрывать свои цели. Если их задача — продать вам автомобиль или убедить проголосовать за политика, они должны сообщать об этом заранее.
- Ограничить доступ ИИ к личным данным, которые могут быть использованы для влияния на нас.
Сегодня целевое влияние похоже на дробь, выпущенную в нашу сторону. ИИ-агенты превратят его в тепловые ракеты, находящие лучший путь к каждому из нас. Если мы не защитимся от этого риска, мы можем проиграть в “Игре людей”.
Луис Розенберг — компьютерный ученый и автор, известный как пионер смешанной реальности и основатель компании Unanimous AI
