Как и многие другие крупные компании, Meta нанимает подрядчиков в свои проекты. Сфера искусственного интеллекта — не исключение. Издание Business Insider выяснило, что инженеры, которые работают с Meta на аутсорсе, читают личные переписки людей с ИИ, чтобы улучшать работу моделей.

Доступ к частным разговорам нужен для оценки и проверки ответов искусственного интеллекта на предмет их персонализации. То есть, разработчики таким образом пытаются сделать чатботы максимально сориентированными на конкретного человека.

Meta заверила журналистов, что придерживается "строгой политики" относительно того, кому предоставляют доступ к персональным данным. Business Insider выяснил, что инженеров нанимают через интернет-сервисы подготовки персонала.

[related_material id="647628" type="1"]

С четырьмя из них журналистам удалось связаться. Всех их корпорация наняла через платформы Outlier и Alignerr, где не только Meta, но и Google, и OpenAI тоже подбирают себе персонал.

Все четверо подтвердили, что во время работы с большими языковыми моделями Meta они работали с частными переписками, которые содержали много чувствительной информации. Например, имена и фамилии, электронные адреса, номера телефонов, пол, хобби и даже хтивки (эротические селфи. — Ред. ), которые люди сбрасывали чатботам.

В переписках с ИИ люди делятся своими переживаниями, просят совета в том числе по очень личным вопросам, анализируют симптомы заболеваний. Они играют в эротические ролевые игры, делясь с виртуальным собеседником сексуальными фантазиями. Все это прорабатывали привлеченные извне инженеры.

[related_material id="644955" type="1"]

Чатботы с контентом 18+ являются частью коммерческой политики Meta и популярной услугой, которую компания предлагает пользователям. В апреле в западных медиа даже разгорелся скандал. Тогда издание The Wall Street Journal выяснило, что искусственный интеллект Meta вел интимные переписки с несовершеннолетними.

Сейчас же благодаря Business Insider стало известно, что истории обмена сообщениями доступны третьим лицам. И открытые данные позволяют идентифицировать и деанонимизировать людей, которым эти разговоры принадлежат.

От претензий о нарушении конфиденциальности Meta защищена предупреждением, что чувствительную информацию не стоит передавать искусственному интеллекту. Но пользователи далеко не всегда читают эти предостережения от разработчика.

[related_material id="648419" type="1"]

Двое из четырех подрядчиков выполняли похожую работу и для других крупных компаний.

Они свидетельствуют, что практика открытия доступа к истории переписок для третьих лиц — привычна в среде разработчиков.

В контексте этой истории, а также случая с индексацией в Google более 4000 переписок людей с ChatGPT эксперты по кибербезопасности советуют быть очень осторожными с искусственным интеллектом. Директор Лаборатории управления искусственным интеллектом Миранда Боген подчеркнула: никогда не стоит воспринимать переписки с чатботами как частные.