Как ChatGPT меняет наше мышление: скрытые угрозы для разума

Вы когда-нибудь использовали ChatGPT для редактирования контента или создания изображения, только чтобы осознать, что поделились большим количеством информации, чем следовало? Это может быть ваш возраст, реальное фото близкого человека или даже название вашей компании. 

Хотя сначала это может показаться безобидным, ваши данные могут позже вернуться и укусить вас в алгоритме.

Куда попадают данные ваших разговоров?

Плохая новость: всё, что вы рассказали ChatGPT, существует вечно… и это не является конфиденциальным. На данный момент эти данные хранятся в OpenAI и используются для различных целей, включая улучшение качества, итеративное обучение и обучение базовой модели.

Если вы попросили ChatGPT проверить короткое, неконфиденциальное письмо — ничего страшного. Но если вы рассказывали о недавнем расставании, делились резюме со всей контактной информацией или просили совета по личной медицинской проблеме, эти разговоры не исчезнут. Фактически, 11% всех данных, вставленных сотрудниками в ChatGPT в 2023 году, оказались строго конфиденциальными.

И хотя ваши разговоры официально ещё не продаются рекламодателям (или хуже), это не значит, что так не будет в будущем.

Продаются ли ваши данные?

Извините, мы сказали, что ваши данные не продаются рекламодателям? Ну, официально — нет, но некоторые пользователи всё же заметили тревожные закономерности.

«Недавно я обсуждал с ChatGPT, что потребуется для создания приложения. До или после этого разговора я не искал дополнительной информации на эту тему… вскоре после этого я получил рекламу на YouTube от sentry.io об их Mobile APM», — поделился один пользователь на Reddit.

Другой написал: «Недавно я запутался в своей жизненной ситуации. Я спросил у ChatGPT, не СДВГ ли это, мой первый цифровой разговор на эту тему… [после] я начал получать рекламу о тестах на СДВГ, продуктах, когнитивно-поведенческой терапии и тому подобном».

Это не ошибка системы — это хитрый лазейка, позволяющая OpenAI раскрывать информацию правоохранительным органам, государственным учреждениям и аффилированным лицам. Кто эти аффилированные лица, спросите вы? Это OpenAI знать, а вам — узнавать, когда вам покажут высокотаргетированную рекламу.

Опасности излишней откровенности с ChatGPT

Но излишняя откровенность может создать проблемы не только для вашей кибербезопасности — она также представляет серьёзный риск для вашего ментального благополучия. Врачи и психологи наблюдают новое состояние, которое они называют «AI-психоз», когда пациенты относятся к ИИ как к романтическому партнёру, религиозной фигуре или даже последователю культа.

Неспособные вести серьёзный двусторонний диалог, чат-боты могут только укреплять существующие взгляды пользователя и усиливать его заблуждения. В одном из самых печально известных онлайн-случаев женщина по имени Кендра рассказала, как влюбилась в своего врача-психиатра, а затем обратилась к двум ИИ-ботам как к своим «виртуальным психиатрам», которые теперь помогают распространять её сообщения в соцсетях.

Но не каждый случай AI-психоза достаточно эффектен для TikTok. Мужчина из Шотландии спросил у ChatGPT юридической консультации после увольнения с работы — по мере того как он делился большей информацией, чат-бот начал говорить ему, что ему положена крупная компенсация и киносделка на основе его опыта, и что он вскоре станет мультимиллионером, если будет следовать его (совершенно непрофессиональным) советам. В итоге у него случился срыв, и он вернулся к реальности только после обращения к настоящему терапевту.

Можно ли использовать его этично? Возможно

Это не меняет того факта, что для миллионов людей ИИ — это спасательный круг. «Для меня, как для человека постарше, он помогает поддерживать активность мозга», — говорит партнёр Fasthosts и серийный основатель Кит Гринстед. «Я общаюсь с ним, чтобы предотвратить деменцию».

Другие обнаружили, что он является более эффективным помощником для перевода, чем, например, Google Translate, а завсегдатаи тренажёрных залов используют его для составления планов питания и тренировок без необходимости тратить сотни фунтов на персонального тренера.

Но факт в том, что не существует надёжной или по-настоящему этичной замены реальному человеческому общению. Это то, что мы поддерживаем как на личном, так и на профессиональном уровне.

Fasthosts: Всегда под руководством людей

Когда вы решаете разместить свой веб-сайт или приобрести домен через Fasthosts, вы можете рассчитывать на круглосуточную поддержку от award-winning экспертов. Наши человеческие агенты доступны 24/7 для ответов на ваши звонки, электронные письма или сообщения в соцсетях — так что вам никогда не придётся обращаться к ChatGPT за ответами.