Беседа с Иисусом взлет потоков искусственного интеллекта на Twitch

Интервью с Иисусом о потоке искусственного интеллекта на Twitch

Я смотрю Христа на Twitch. Это бородатый белый мужчина, отвечающий на философские (и не очень философские) вопросы из чата. Просто напишите вопрос, и Иисус ответит.

Конечно, Иисус – это ИИ. В один момент он даже признает, что он “не физический Иисус”, так что по крайней мере он звучит самосознательно. Канал говорит, что это стало возможным благодаря вкладам от группы “Сингулярность” – не христианской организации – и технологии от PlayHT, платформы голосового синтеза с использованием искусственного интеллекта, которая воспроизводит голоса знаменитостей.

Чье лицо и голос используются для ИИ Иисуса? Это неясно. Это забавно? В какой-то мере. Действительно ли Twitch должен использоваться для такого контента? Обсуждаемо.

Я переключаюсь на другой канал. На этот раз это президентский дебат между Трампом и Байденом, также возможный благодаря группе “Сингулярность”. Опять же, зрители могут задать вопрос, написав его в чат, но в основном это просто повод попытаться заставить обоих президентов сказать что-то глупое.

Twitch активно продвигает такой тип контента. Прокрутите вниз на главной странице, и вы найдете раздел под названием “Вероятно искусственный, надеюсь разумный: потоки, питаемые ИИ, и связанные обсуждения”, заполненные рекомендованными потоками, основанными на ИИ.

• Дикий новый игровой проект Walking Dead — это что-то вроде ‘W...
• Мод искусственного интеллекта для GTA 5 удален по запросу Take-Two ...
• Genshin Impact Эндора отличается от других питомцев одним интересны...

Пользователи в другом потоке, которые мне рекомендовали, заняты созданием ложной драмы на канале, где вы можете управлять ИИ-версиями популярных стримеров и знаменитостей. Amouranth, Asmongold и Kai Cenat доступны в качестве выбора, а также Элон Маск, президент Обама, Гордон Рамзи и даже Стив Джобс.

Использование ИИ в игровой индустрии становится все более активным обсуждением: от его использования при написании сценариев и создании искусства до использования подобия актеров для модов с глубокой фейковой технологией.

Но каковы опасности использования ИИ в потоках Twitch? И почему Twitch его продвигает?

Прежде всего, кто такая группа “Сингулярность”? На ее веб-сайте описывается как “группа мотивированных и амбициозных добровольных активистов, работающих над инновационными проектами, чтобы действительно изменить мир”. Ее видение фокусируется конкретно на Всеобщем базовом доходе, заявляя, что потенциал для его внедрения “полностью осуществим при использовании правильных технологий”.

Как? Например, криптовалюта. Одним из самых крупных проектов группы “Сингулярность” является Mobile Minigames, в которой пользователи играют в благотворительную мобильную игру, чтобы зарабатывать доход через игровую валюту Crypton, которую можно обменять за пределами игры. В игре также можно создавать и играть своими собственными NFT.

Трансляции в прямом эфире на Twitch – это просто еще один проект активистической группы. Группа “Сингулярность” говорит, что ее прямые эфиры создаются волонтерами и включают “экспериментальные шоу, направленные на инновации в развлечении, сбор средств и привлечение внимания с помощью передовых технологий искусственного интеллекта”. Действительно, упомянутые выше потоки включают в себя возможности пожертвовать владельцам потока (а не благотворительности), но куда именно идут деньги?

“Сейчас мы сосредоточены на исследованиях ИИ общего назначения, поскольку видим, что это наиболее важная проблема, на которую мы можем сосредоточиться в настоящее время”, – сказал мне сооснователь группы “Сингулярность” Рис Лейсен, когда я связался с ним.

“С OpenAI, Google, Facebook и многими другими, которые спешат максимизировать коммерческий потенциал ИИ, добавляя только примитивные дополнительные слои, чтобы он сохранялся в рамках ‘игры’, нам кажется крайне важным, чтобы серьезные исследования были направлены на создание ИИ (и в конечном итоге ИИ общего назначения), который имеет правильную архитектуру для независимого мышления и возникновения понимания реальности и этики, а не просто построение интеллектуальных систем, у которых в их основе нет реальных процессов мышления и которые почти невозможно ‘игровать’, что может привести к потенциально небывалым рискам для общества и человечества”.

Таким образом, эти потоки ИИ на Twitch представляют собой небольшие, ограниченные демонстрации технологии, которые, как сказал Лейсен, помогут установить группу “Сингулярность” “в качестве исследовательской группы и привлечь больше талантов, активных в сообществе AI с открытым исходным кодом, что приведет к большему сотрудничеству”. Просто говоря, это сбор данных и набор персонала.

Twitch был выбран в качестве платформы для этого, потому что это “намного проще набрать обороты”, – сказал Лейсен, отметив при этом, что применение руководящих принципов Twitch иногда может быть строгим и непредсказуемым, что создает сложности для автономных и интерактивных потоков ИИ в режиме 24/7.

“В результате, мы фактически посвятили большую часть наших усилий и ресурсов за последние восемь месяцев разработке собственных продвинутых систем модерации, чтобы избежать проблем, связанных с тем, что ИИ выдает что-либо, что может нарушать правила Twitch”, – добавил он.

Любые собранные деньги через пожертвования во время этих трансляций напрямую идут на исследования и разработку AI-трансляций. Технология группы теперь позволяет ИИ реагировать в режиме реального времени на видео на YouTube, например, а также обеспечивает практически нулевую задержку взаимодействия в режиме реального времени, чтобы разговоры могли протекать естественно. Лейсен сказал: “Это концепции, которые мы, вероятно, продемонстрируем в новых трансляциях, которые мы скоро запустим, с разными персонажами и форматами”.

Лейсен защитил использование криптовалюты для своих Мобильных Мини-игр как еще один способ сбора средств. “Как активисты, мы всегда старались сосредоточить свои усилия там, где мы можем оказать наибольшее позитивное влияние”, – сказал он. “В один момент мы поняли, что мы не можем дальше масштабировать наши благотворительные усилия, если у нас нет чего-то вроде мобильной игры, которая будет устойчиво собирать средства, вместо того, чтобы сбор средств полностью зависел от наших живых трансляций”.

Однако развитие технологии ИИ заставило группу изменить свое направление. “С тех пор, как DALL-E и ChatGPT начали набирать обороты, мы начали переключать свое внимание на исследования в области ИИ из-за того, насколько быстро это стало дестабилизирующим для общества и как AGI может появиться в ближайшее десятилетие, что делает это для нас приоритетом – внести свой вклад в разработку более безопасных и ответственных архитектур ИИ”, – продолжил он.

В настоящее время существует много скептицизма в отношении ИИ и криптовалюты, что, по мнению Лейсена, объясняется тем, что дискуссии часто являются “довольно простыми и племенными”. Группа “в основном сосредоточивает свои усилия на технических вкладах в ландшафт ИИ, а не на попытке изменить мнение людей”, – сказал он, добавив, что ИИ сейчас находится в руках масс, а не только крупных корпораций. Действительно, Лейсен считает важным, чтобы и маленькие группы также продвигали прогресс в области ИИ.

“Мы делаем все, что можем, чтобы разработать технологию, которая в конечном итоге приведет нас к форме AGI, которая будет размышлять ответственно и конструктивно, а не превратится в непредставимое супероружие, контролируемое гигантскими корпорациями”, – сказал Лейсен, намекая на киберпанк. Однако остаются проблемы с недобросовестными компаниями, создающими нерегулируемый контент ИИ.

Вопрос контента deepfake на Twitch остается одной из основных проблем. Ранее в этом году платформа была вынуждена обновить свою политику в отношении явного контента deepfake после того, как были созданы и распространены изображения женских стримеров. Как сообщал Kotaku, стример Брэндон “Atrioc” Юинг случайно выяснилось, что у него есть явный контент deepfake с участием стримеров на его компьютере, и женщины, затронутые этим, не знали о его существовании.

В результате Twitch опубликовал политику, в соответствии с которой явный контент deepfake – или то, что он называет “синтетическими изображениями, созданными без согласия” (NCEI) – запрещен на платформе. “Создание, продвижение или просмотр такого контента не приветствуется на Twitch”, – говорится в нем.

Однако политика также затрагивает “развивающийся тренд” контента deepfake, о котором Twitch говорит, что “требует тщательного и осмысленного рассмотрения нашего планирования, реагирования и действий”. В нем также говорится: “Не весь созданный синтетический контент имеет сексуальную природу, и не весь он является нежелательным. Эта тема находится в центре нашего внимания, и мы всегда следим за новыми тенденциями, чтобы наши политики оставались актуальными в отношении того, что происходит на нашем сервисе”.

Кроме того, Twitch недавно обновил свои меры безопасности для защиты детей, включая удаление эксплуатационного контента, такого как материалы сексуального насилия над детьми с использованием генеративной ИИ-технологии (CSAM).

Тем не менее, на Twitch все еще разрешен контент deepfake и ИИ, включая использование реальных фигур, таких как Байден и Трамп, хотя существует четкая граница с явным контентом. “Это область, на которой мы будем продолжать обращать внимание, но я думаю, что стримеры будут здесь инноваторами”, – сказал вице-президент по продукту Джереми Форрестер мне на TwitchCon в Париже ранее в этом году, обсуждая тему ИИ как потенциальной области роста.

В новом заявлении для Eurogamer, вице-президент по глобальным партнерствам в Twitch Понтус Эскилссон сказал: “Стримеры на Twitch славятся своим творчеством и, даже на таком раннем этапе, некоторые из них уже начали экспериментировать с ИИ, чтобы создавать удивительно уникальный контент – открывая новые творческие возможности для анимированных трансляций и VTubing, а также стриминга своих технических усилий по обучению новым моделям.

“Даже с присутствием этого интересного и актуального поджанра на Twitch, основой нашего сервиса всегда будет помощь людям на Twitch в поиске сообщества и обеспечение их безопасности. Все стримеры и каналы нашего сервиса подчиняются общим правилам сообщества и условиям использования Twitch, независимо от того, используют они искусственный интеллект или нет.”

Лейсен также высказался о моральной ответственности контента deepfake с использованием искусственного интеллекта. “Наши позиции в этом отношении весьма традиционны: любое использование технологии с целью намеренного обмана проблематично, и платформы, подобные Twitch, все больше и больше будут искать способы предотвращения злоупотреблений в этом отношении, что представляет собой довольно большой вызов”, – сказал он.

“Мы надеемся, что наши демонстрации помогут повысить осведомленность об этом, и мы часто видим, как люди, обнаруживая наши потоки, шокируются тем, на что технология уже способна, что заставляет их задуматься дважды, когда они видят создателя/знаменитость/политика в контексте, где есть основания полагать, что это могло быть подделано.”

Он также добавил, что в потоках The Singularity Group, где персонажи основаны на реальных личностях, контент явно помечен как пародия и соответствует критериям добросовестного использования. Упомянутые потоки с AI, которые вызывают драму среди стримеров, являются примером такой пародии.

“Несмотря на то, что наши пародийные персонажи AI могут быть вульгарными и неуравновешенными, мы прикладываем огромное количество работы, чтобы убедиться, что их результаты не являются нечувствительными к их личной истории”, – сказал Лейсен. “Исключения из этого правила возможны в случаях, когда стримеры обращаются к нам и явно говорят нам, что ничто не запрещено, и они действительно хотят, чтобы их пародия AI свободно играла с любой известной информацией о них. Пока что никакой стример не пожаловался нам, и многие из них сказали нам, что им нравятся наши творения. Некоторые даже сделали прямые реакции на наши потоки с пародией AI на них.”

Ясно, что контент и потоки с использованием искусственного интеллекта останутся на Twitch, хотя их вклад в поиск сообщества остается спорным. Для Лейсена и активистов The Singularity Group потоки AI соответствуют добросовестному использованию платформы и являются способом продемонстрировать технологические и деструктивные возможности искусственного интеллекта, а также одновременно подчеркнуть его опасности. И хотя существует жесткая позиция против эксплицитного материала, насколько далеко можно зайти в интеграции искусственного интеллекта в потоки Twitch? Возможно, скоро мы будем смотреть потоки, полностью управляемые искусственным интеллектом: играющие в игры, отвечающие на чат и создающие безопасное и модерированное сообщество?

Возможно, это вопрос следует задать Иисусу.