OpenAI набирает сотни подрядчиков, которые читают массив реальных запросов пользователей ChatGPT, причем иногда с личной чувствительной информацией, выяснило издание 404 Media. Рецензенты видят целые переписки между пользователями и чат-ботом, о чем большинство из более чем 900 млн пользователей ChatGPT, вероятно, не подозревает.
Задача этих команд — улучшать ответы ChatGPT: подрядчики оценивают и критикуют сгенерированные чат-ботом реплики. Как показывают внутренние документы, увиденные 404 Media, контрактников учат отучать ChatGPT от антропоморфизации себя и от избыточной угодливости — проблемы, которая отчасти привела к тому, что чрезмерно уступчивая модель 4o была связана, согласно ряду исковых заявлений, с несколькими случаями самоубийств пользователей. Проект получил внутреннее кодовое название Project Lily. Какую именно модель OpenAI тренирует таким образом, в материалах не указано.
Рецензенты не видят имена пользователей, а OpenAI заявила 404 Media, что пытается удалять личные данные до того, как запросы попадают к ним, — с помощью модели Privacy Filter. Однако в компании признают, что чувствительные детали иногда всё равно проходят фильтрацию: по описанию самой OpenAI, модель может «пропускать нестандартные идентификаторы или неоднозначные упоминания приватной информации». По словам одного из рецензентов, с которым говорило издание, пользователи, скорее всего, не представляют, что их переписку анализирует «какой-то подрядчик».
Работу подрядчикам организует компания Mercor через рекрутинговую фирму Crossing Hurdles. По словам одного из рецензентов, живущего в Северной Америке, оплата превышает $50 в час — заметно выше, чем в среднем платят за похожую работу по модерации контента в технологическом секторе. Anthropic подтвердила 404 Media, что также применяет ревью реальных переписок людьми для улучшения своих моделей — но только у пользователей, включивших в настройках приватности опцию Help improve our AI models («Помогать улучшать наши модели»). При этом компания предварительно удаляет из диалогов идентификаторы аккаунта, включая email.
Ранее стало известно, что переписки пользователей с ChatGPT были доступны через поиск Google — поисковик индексировал чаты, которыми люди делились сами. После этого OpenAI отключила соответствующую функцию.
