Пробный ограниченный запуск нового продукта OpenAI для «клонирования» голоса вызвал такую широкую негативную реакцию, что ведущий разработчик искусственного интеллекта согласился пока «положить его на полку».
Voice Engine от OpenAI – это модель ИИ для дублирования человеческого голоса и формирования аудио-сообщений. Она может «убедительно воссоздавать человеческие голоса всего из пятнадцатисекундной аудио- и текстовой подсказки». Неделю назад Voice Engine была развернута для тестирования возможностей и рисков. Несмотря на уверения в «ответственном отношении», на «осторожный и сознательный подход», в среде экспертов случился переполох. В сущности, неясно, кто и как будет использовать эту модель во благо. А вот во зло – понятно. Записать 15 секунд речи ничего не стоит. А дальше… От «перспектив» – дух захватывает. Но все эти перспективы – с криминальным подтекстом.
OpenAI в корпоративном блоге предлагает все-таки легальные и полезные применения своему голосовому движку: «Его можно использовать для поддержки людей, которые не могут устно общаться из-за инвалидности или болезни. Он также способен клонировать голос человека для чтения текста на разных языках, это — огромный потенциал для перевода аудио и видео, чтобы авторы и компании могли свободно обращаться к большему количеству людей по всему миру».
Но невозможно не признать те риски, которые лежат на поверхности. Голосовые модели ИИ могут быть использованы для воссоздания голосов политиков или общественных деятелей, чтобы влиять на избирателей или посеять дезинформацию. А на бытовом уровне масштаб злодейства ограничивается только фантазией злодеев. OpenAI заявляет, что запретила использование голоса человека без его согласия и внедрила систему водяных знаков для идентификации звука, генерируемого Voice Engine. Но вряд ли это будет спасением.
Пожалуй, массовые волнения вызывают также опасения потерять работу из-за голосового ИИ. Чтобы снизить накал паники, разработчики вбрасывают в медийное пространство нарратив, что, мол, ИИ не заменит работников, а улучшит их работу. Например, пресловутое использование в службах поддержки клиентов. ИИ, дескать, помогает клиентам получать быстрые ответы на стандартные вопросы, а человеческие команды поддержки получают больше времени для решения сложных вопросов. Таким образом, «лучшее обслуживание клиентов будет обеспечиваться сочетанием искусственного интеллекта и людей».
Что касается пользовательских кейсов, то на Voice Engine уже обратили внимание маркетологи. Речь о том, чтобы использовать в рекламе голоса селебрити, не платя миллионы селебрити! Сами знаменитости пока молчат, но, когда использование голосового ИИ скажется на их гонорарах, мы их наверняка услышим.
