OpenAI привлекла сотни сторонних подрядчиков, которые читают и оценивают реальные переписки пользователей с ChatGPT для улучшения моделей искусственного интеллекта компании. Инициатива имеет кодовое название Project Lily.
Иногда разговоры с чат-ботами содержат конфиденциальную информацию, к которой имеют доступ нанимаемые OpenAI подрядчики. Заявляется, что цель Project Lily заключается в улучшении ответов, которые ChatGPT предоставляет своим пользователям.
Подрядчики оценивают и критикуют сгенерированные чат-ботом результаты. Также они обучают чат-бот не очеловечивать себя и быть менее склонным к «подхалимству» — это одна из ключевых проблем OpenAI.
Подрядчики не видят имена пользователей ChatGPT. В свою очередь, OpenAI заявляет, что старается удалять личную информацию до того, как промпты попадут к проверяющим. Однако компания признаёт, что конфиденциальные данные всё же могут проходить через этот фильтр.
Сведения о Project Lily развеивают ошибочное представление о том, что языковые модели совершенствуются только благодаря массовому сбору OpenAI данных из интернета, таланту её высокооплачиваемых инженеров и специалистов по ИИ, а также возможностям новых поколений моделей.