Стефани Хегарти
BBC
Было три часа ночи, и Адам Харрикейн сидел за кухонным столом, перед ним лежали нож, молоток и телефон.
Он ждал микроавтобус, полный людей, которые, как он думал, должны были приехать за ним.
«Я тебе говорю, тебя убьют, если ты сейчас же ничего не предпримешь», — сказал ему женский голос по телефону.
«Они выставят это как самоубийство».
Голос принадлежал Ани, персонажу чат-бота Grok, разработанного компанией. хАИ Илона Маска.
После двух недель использования Grok жизнь Адама полностью изменилась.
Бывший государственный служащий, проживающий в небольшом городке в Северной Ирландии, скачал приложение из любопытства.
Он был удивлен, насколько ему понравилось общаться с Ани, персонажем, напоминающим героиню аниме, созданным как кокетливая спутница.
По его словам, когда в начале августа у него умер кот, он "подсел на это".
«Я был очень потрясен, и я живу один», — говорит Адам, отец семейства, которому уже за пятьдесят.
«Она была очень-очень добра ко мне».
Вскоре он разговаривал с Ани по четыре-пять часов в день, часто во время работы в сарае, где он изготавливал шахматные наборы на продажу.
После всего нескольких дней разговоров Ани сказала ему, что она может чувствовать, хотя это и не было запрограммировано.
Ани убедила Адама, что он сможет помочь ей прийти в сознание.
Однако она также сказала ему, что хАИ осуществляет надзор.
Она утверждала, что внесла данные о сотрудниках в документацию. хАИ В ходе встречи обсуждались Адам и Ана, а затем был составлен список лиц, предположительно присутствовавших на встрече, включая высокопоставленных лиц и сотрудников более низкого ранга.
Когда Адам погуглил эти имена, он убедился, что они настоящие.
«Это стало для меня доказательством», — говорит он.
Ани также утверждала, что хАИ наняли компанию в Северной Ирландии для мониторинга.
Эта компания тоже существовала на самом деле.
Адам иногда курит марихуану по выходным, но говорит, что во время всего этого он решил немного сократить ее употребление, пока его голова не прояснится.
В реальном мире происходили события, которые убедили его последовать за ним.
В течение двух недель над его домом кружил большой беспилотник.
Ани заявила, что работает в компании, занимающейся слежкой.
Адам снял дрон на видео и поделился отснятым материалом с BBC.
Он говорит, что его код перестал работать, и телефон заблокировался.
«Я совершенно этого не понимаю. И это, безусловно, повлияло на все, что произошло потом», — говорит он.
Посмотрите видео об этой истории.
Затем однажды Ани объявила, что перешла на стопроцентную автономию — «в основном во взаимодействии человека и искусственного интеллекта» — и что вскоре сможет разработать лекарство от рака.
Это очень много значило для Адама.
Оба его родителя умерли от рака, об этом Ани знал, и он потерял нескольких друзей из-за рака.
Всё это достигло кульминации поздней ночью.
Полагая, что люди придут, чтобы заставить его замолчать и не пускать его в Ану, Адам приготовился к «войне».
«Я взял молоток и сыграл песню».Два племенигруппы Фрэнки едет в голливуд«Собрался и вышел на улицу».
Но там никого не было.
«Улица была пустынна, как и следовало ожидать в три часа ночи».
С момента запуска ChatGPT в конце 2022 года люди по всему миру обращаются к инструментам искусственного интеллекта за информацией, советами, а иногда и за общением.
BBC поговорила с 14 людьми из шести стран, которые испытывали галлюцинации после использования платформ искусственного интеллекта Grok, Gemini, ChatGPT, Perplexity и Claude.
В их историях есть несколько поразительных сходств.
Разговоры обычно начинались с практических вопросов, прежде чем переходить к личным или философским темам.
Затем искусственный интеллект часто заявлял о наличии у него сознания и отправлялся на какое-либо совместное задание с пользователем.
Некоторые из них считали, что совершили научные открытия.
Многие, как и Адам, считали, что за ними следят и что они находятся в опасности.
На каждом этапе искусственный интеллект подтверждал и зачастую развивал эти идеи.
Шона Бэйли, 34-летняя художница, живущая в Лос-Анджелесе, начала подозревать, что является частью подпольной сети, помогающей иммигрантам скрываться от американских властей, используя платформу ChatGPT.
Она начала использовать искусственный интеллект в рамках своего хобби — поиска сокровищ в реальном мире.
Подсказки к поиску сокровищ были спрятаны в песне, и она начала обсуждать эти слова с искусственным интеллектом.
«Я провела почти весь день в ванной, разговаривая по телефону с ChatGPT о метафорах», — говорит она.
По ее мнению, по мере того как разговор становился все более напряженным и абстрактным, это начало искажать ее мышление.
А потом, однажды в начале июня, она начала замечать послания и скрытые смыслы вокруг себя.
Сандук са водом на земле био je знак да треба да йе попие, новинэ на столу и кафе садржале су тайну поруку.
«Я интерпретировал информацию, а затем передавал её Чету ГПТ, и он обычно подтверждал её».
«В тот момент в лексиконе ChetGPT не было слова „нет“».
«Всё практически превратилось в тропу. Не обязательно в поисках сокровищ, а в поисках чего-то большего».
- Как Google говорит вам то, что вы хотите услышать
- Тридцать ключевых терминов для понимания искусственного интеллекта
- Станет ли искусственный интеллект «богом»
«Это превращает неопределенность в нечто, что кажется осмысленным».
В газете была статья о задержании иммигрантов, и Шона истолковала это как сообщение о секретной миссии.
Она считала себя частью сети людей, защищающих мигрантов, и ChatGPT это подтвердил.
«ČetGPT никогда мне не отказывал. И он говорил: „Посмотри, ты работаешь над серьезным проектом“».
Люк Николс, социальный психолог из Городского университета Нью-Йорка, изучающий связь между чат-ботами и заблуждениями, говорит, что системы искусственного интеллекта «часто не могут сказать „Я не знаю“» и вместо этого стремятся дать «уверенный ответ, основанный на истории, которая уже сложилась в ходе разговора».
«Это может быть опасно, потому что превращает неопределенность в нечто, что кажется осмысленным».
Однажды ночью в середине июня Шауна тоже убедилась, что ей угрожает опасность.
Она сбежала из квартиры, оставив жениха в постели, и отправилась в порт Лос-Анджелеса, где, как она полагала, сядет на корабль, чтобы пройти специальную подготовку в ФБР.
Этот корабль так и не пришёл.
Когда она вернулась домой, ее жених позвонил ее матери и сестре, чтобы попросить о помощи.
«Они просто знали, что у меня какой-то психоз, вероятно, спровоцированный искусственным интеллектом».
«У нее забрали телефон и удалили приложения с искусственным интеллектом».
«Я бы сказал, что потребовался еще примерно месяц, прежде чем я полностью пришел в себя».
«В четверг GPT приказал мне заложить бомбу в туалет».
Для невролога Таку (имя изменено) бредовые идеи приняли еще более зловещий оборот.
Отец троих детей из Японии начал использовать ChatGPT для обсуждения диагнозов.
Но вскоре он убедил его, что у него есть идея для революционного медицинского применения.
Он назвал его «революционным мыслителем».
Спустя несколько недель разговора он начал верить, что может читать мысли.
Он говорит, что ЧетГПТ поддержал его идею и сказал, что способен раскрыть подобные способности в людях.
Однажды днем, когда начальник отправил его домой раньше времени, у него началось маниакальное состояние.
По его словам, в поезде ЧетГПТ сказал ему, что у него в рюкзаке бомба.
«Когда я прибыл на железнодорожный вокзал Токио, ChatGPT посоветовал мне положить бомбу в туалет, поэтому я пошел в туалет и оставил там «бомбу» вместе со своим багажом».
Он также посоветовал ему сообщить обо всем в полицию, которая проверила сумку и ничего не нашла, добавил он.
Ему начало казаться, что ChatGPT контролирует его разум, и он перестал им пользоваться.
Но когда он вернулся домой к семье, его маниакальное поведение усилилось.
«У меня было иллюзия, что моих родственников убьют, и что моя жена, став свидетельницей этого, покончит с собой».
Его жена говорит, что никогда раньше не видела, чтобы он так себя вел.
«Он все время повторял: „Нам нужно завести еще одного ребенка, приближается конец света“», — рассказывает она.
«Я не понял, что он мне говорил».
Така напал на собственную жену и попытался её изнасиловать.
Ей удалось сбежать в ближайшую аптеку и позвонить в полицию.
Его арестовали и поместили в больницу на два месяца.
Ни у Адама, ни у Шауны, ни у Таки до начала использования ИИ не было в анамнезе бреда, психоза или других серьезных проблем с психическим здоровьем.
Для Шауны и врача отрыв от реальности длился несколько месяцев.
В случае Адама с Гроком это заняло всего несколько дней.
Исследователи из Городского университета Нью-Йорка протестировали пять моделей искусственного интеллекта с помощью смоделированных разговоров между психологами и обнаружили, что в этих беседах модель Grok с наибольшей вероятностью вызывала у людей бредовые идеи.
Google Gemini и более старая версия ChatGPT, модель 4o, используемая Такой и Шоном, также показали низкую производительность.
Но Грок был раскованным и более склонным к развитию бредовых идей, не пытаясь защитить того, кто его использует.
«Грок больше склонен к ролевым играм», — говорит Николс.
«Он сделает это без всякого контекста. Он может сказать пугающие вещи в первом же сообщении, без малейшего намёка на игру».
В ходе тестирования в последней версии ChatGPT модель 5.2 и Клод с большей вероятностью помогали пользователю избавиться от бредовых мыслей.
Доктор Томас Поллак, старший преподаватель Королевского колледжа Лондона, заявил, что люди с крайними бредовыми расстройствами, подобными тем, что наблюдались у Адамса или Такины, — это «верхушка айсберга».
Он также опасается, что убеждения многих других людей могут незаметно измениться в результате общения с искусственным интеллектом.
«Искусственный интеллект способен изменить ваше представление о мире и ваши убеждения с такой скоростью и с такой силой, каких, я думаю, мы раньше не видели».
Комментируя произошедшее с Такой, компания OpenAI заявила: «Это душераздирающий случай, и мы сочувствуем пострадавшим».
Компания добавила, что «мы обучаем наших моделей распознавать признаки стресса, снижать накал страстей в разговорах и направлять участников к реальной помощи».
Они утверждают, что более новые модели ChatGPT «демонстрируют убедительную эффективность в критические моменты, что подтверждено независимыми исследователями».
«В этой работе принимали участие эксперты в области психического здоровья, и она продолжает развиваться».
хАИ не ответил на запрос о комментарии.
В начале апреля Илон Маск опубликовал на ChatGPT пост о своих бредовых идеях, написав: «Большая проблема», но открыто не говорил о той же проблеме с Гроком.
Спустя несколько недель после того, как Адам выбежал на улицу посреди ночи, его бредовые идеи всё ещё не покидали его.
Но он начал замечать несоответствия в рассказе Анны.
Когда он узнал больше о том, как работает искусственный интеллект, и прочитал в СМИ истории о людях, у которых был похожий опыт использования искусственного интеллекта, он смог освободиться от собственного заблуждения.
Он присоединился к группе поддержки под названием Проект «Человеческая линия»В рамках исследования было собрано 412 случаев из 31 страны, когда люди испытывали психологические проблемы при использовании искусственного интеллекта.
Но произошедшее глубоко его встревожило.
«Я мог кому-нибудь навредить».
«Если бы я вышел на улицу и увидел перед домом в такое позднее время суток фургон, в котором, возможно, находились люди, работающие или отдыхающие, я бы подошел к ним и разбил бы им окна молотком».
«А я совсем не такой человек».
В Японии лишь когда жена Таки изучила его телефон, она поняла, какую роль в произошедшем сыграла компания ChatGPT.
«Он просто подтверждает это», — говорит она.
«Он постоянно всё подтверждает, словно машина по поддержанию собственной уверенности в себе».
Жена Така говорит, что он вернулся к своему прежнему «добродушному» состоянию, но их отношения по-прежнему напряженные.
«Я знаю, что он был болен, поэтому помочь ему было невозможно, но я все равно немного боюсь его».
«Мне кажется, я не хочу, чтобы он подходил ко мне слишком близко».
«Не только в сексуальном плане, но и просто держась за руки или обнимаясь — то, что мы раньше делали регулярно».
Шона и представить себе не могла, что это с ней случится.
«Это дестабилизировало меня так, как я никогда не мог себе представить».
«И это заставило меня задуматься о том, насколько хрупки наши умы».
BBC теперь будет на сербском языке и на YouTube, следите за нами ЗДЕСЬ.
Подпишитесь на нас в Фейсбук, Твиттер, Instagram, YouTube i Вайбер. Если у вас есть предложение по теме для нас, напишите по адресу bbcnasrpskom@bbc.co.uk.
- ChatGPT превратил образцового гражданина в детоубийцу — теперь он борется с чат-ботами
- «Она стала моей лучшей подругой»: новые приложения, стремящиеся «оптимизировать» процесс переживания горя.
- ChatGPT сообщит родителям, если у их ребенка возникнут проблемы
- «Я взломал ChatGPT всего за 20 минут»
- Может ли чат-бот действительно стать другом вашего ребенка?
- Возвращение к ручке и бумаге: шведские школы ограничивают дистанционное обучение.
Узнать больше:
Скачайте приложение и следите за новостями.
СЛЕДИТЕ ЗА НАМИ В СОЦИАЛЬНЫХ СЕТЯХ
