Работающая в области искусственного интеллекта компания OpenAI планирует расширить спектр контента, который производит его популярный чат-бот ChatGPT. По словам главы OpenAI Сэма Альтмана, компания решила «относиться ко взрослым пользователям как к взрослым» и в числе прочего разрешить чат-боту производить эротические материалы, пишет Русская служба Би-би-си.
В своем посте в соцсети X во вторник Альтман написал, что следующая версия ChatGPT, которая выходит в декабре, не будет ограничивать более откровенный контент и «позволять больше, например, эротику для верифицированных взрослых».
«Если вам нужно, чтобы ChatGPT отвечал вам совсем как человек, или использовал массу эмодзи, или же вел себя как друг, ChatGPT должен это делать (но только если вы действительно этого хотите, а не потому что мы пытаемся нарастить объемы использования)», — пишет Альтман.
Похожий шаг недавно предприняла компания Илона Маска xAI, которая снабдила свой Grok двумя чат-ботами, выдающими откровенный сексуальный контент.
Разрешение эротического контента может привлечь в OpenAI больше платных подписчиков. Но оно также способно заставить законодателей ввести более жесткие ограничения в работе чат-ботов.
OpenAI не ответила на просьбу Би-би-си о комментарии после публикации поста Альтмана.
Вопросы о контроле над чат-ботами
В последнее время звучит все больше призывов обратить внимание на работу платформ, основанных на искусственном интеллекте.
В начале этого года родители 16-летнего американского подростка Адама Рейна, покончившего с собой в апреле этого года, подали иск против OpenAI. Они обвинили компанию в неправомерном лишении жизни.
Супруги из Калифорнии заявили, что существующие в ChatGPT механизмы родительского контроля недостаточно эффективны и не обеспечивают безопасность его использования. В качестве доказательства своих утверждений семья предоставила копии переписок между Адамом и ChatGPT, в которых он признается, что подумывает о суициде.
В своем посте, опубликованном 14 октября, Альтман заявил, что OpenAI предусмотрела «значительные ограничения» в работе ChatGPT для обеспечения «осторожности в вопросах психического здоровья».
«Мы понимаем, что это сделало его менее полезным/приятным для многих пользователей, у которых нет проблем с психическим здоровьем, но, учитывая серьезность проблемы, мы хотели сделать все правильно», — сказал при этом Альтман.
По его словам, в результате компания смогла снизить серьезные риски для психики и разработала новые инструменты, позволяющие «безопасно ослабить ограничения в большинстве случаев».
Критики считают, что решение OpenAI разрешить эротику подчеркивает необходимость более строгого регулирования со стороны государства.
«Как они собираются сделать так, чтобы дети не могли получить доступ к тем частям ChatGPT, которые предназначены только для взрослых и содержат эротику? — спрашивает Дженни Ким, партнер юридической фирмы Boies Schiller Flexner. — Open AI, как и большинство крупных технологических компаний в этой сфере, просто использует людей как подопытных кроликов».
Ким также принимает участие в судебном процессе против компании Meta, которой принадлежит сеть Instagram: истцы утверждает, что алгоритм приложения наносит вред психическому здоровью подростков-пользователей.
Верификация и романтические связи с ИИ
В апреле профильное издание TechCrunch сообщило, что OpenAI разрешал генерировать эротические изображения с аккаунтов, пользователи которых зарегистрировались как несовершеннолетние.
OpenAI тогда заявила, что принимает меры, чтобы ограничить такой контент.
Согласно опросу, опубликованному в октябре некоммерческой организацией Centre for Democracy and Technology (CDT), примерно 20% школьников сообщили, что они (или их знакомые) имели романтические отношения с ИИ.
В понедельник губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект, согласно которому дети смогут пользоваться чат-ботами, только если разработчики гарантируют, что такое общение не нанесет вред здоровью.
Ньюсом при этом заявил, что «подростки должны научиться безопасно взаимодействовать с системами искусственного интеллекта».
А Федеральная торговая комиссия США начала расследовать, каким образом дети пользуются чат-ботами на основе искусственного интеллекта.
В сентябре в представители обеих партий внесли в Сенат США законопроект, который классифицирует такие чат-боты как продукты и таким образом позволяет пользователям подавать иски о возмещении ущерба против разработчиков.
Аналитики тем временем все более скептично смотрят на быстрый рост стоимости компаний, занимающихся искусственным интеллектом.
Хотя доходы OpenAI растут, компания пока не приносила прибыль.
Профессор бизнеса Тулейнского университета Роб Лалка, автор недавней книги «Венчурные алхимики», считает, что крупные компании, занимающиеся искусственным интеллектом, активно борются за долю рынка.
«Ни одной компании не удавалось столь широко внедрить свой продукт, как OpenAI со своим ChatGPT, — сказал Лалка Би-би-си. — Им надо продолжать двигаться по этой кривой экспоненциального роста, добиваясь максимального доминирования на рынке».