与耶稣聊天：AI直播在Twitch上的崛起
'Chatting with Jesus The Rise of AI Livestreaming on Twitch'.
我正在Twitch上观看耶稣。他是一个长着胡子的白人，回答着来自聊天室的哲学问题（有时也是一些非哲学的问题）。只需输入一个问题，耶稣就会回答。
当然，耶稣是一个AI。他甚至在某个时刻承认自己“不是真正的耶稣”，所以至少他听起来是自觉的。频道声称这得益于来自“奇点小组”的贡献 – 不是一个基督教组织 – 和来自PlayHT的技术，PlayHT是一个AI驱动的语音生成平台，可以复制名人的声音。
AI耶稣使用的是谁的面孔和声音？不清楚。这是否有趣？有点。Twitch真的应该用于这种类型的内容吗？值得商榷。
我切换到另一个频道。这次是特朗普和拜登之间的总统辩论，同样是由奇点小组支持。观众可以通过在聊天室中输入问题来提问，但大多数时候只是为了试图让两位总统说出一些愚蠢的话。
Twitch正在积极推广这种类型的内容。在首页向下滚动，你会发现一个名为“可能是人工智能，希望是智能的：由AI驱动的直播和相关讨论”的部分，里面充满了由AI驱动的推荐直播。
其他频道的用户向我推荐的是一个频道，你可以操控流行主播和名人的AI版本，他们是Amouranth、Asmongold和Kai Cenat，还有埃隆·马斯克、奥巴马总统、戈登·拉姆齐，甚至还有史蒂夫·乔布斯。
在视频游戏行业中使用AI的问题越来越成为一个普遍的讨论：从在剧本和艺术中使用AI，到演员们的形象被用于深度伪造的修改。
但是，在Twitch直播中使用AI有什么危险？为什么Twitch要推广它？
首先，奇点小组是谁？其网站将这个组织描述为一个“由积极投身于创新项目，真正改变世界的志愿行动者组成的团体”。它的愿景专注于普遍基本收入，声称通过利用合适的技术实现这一目标是“完全可行的”。
怎么做？其中之一就是加密货币。移动迷你游戏是奇点小组最大的项目之一，用户通过玩一个以慈善为重点的手机游戏来赚取游戏内货币Crypton，然后可以在游戏外进行交易。该游戏还允许用户创建和扮演自己的NFT。
Twitch直播只是这个活动组织的另一个项目。奇点小组表示，他们的直播由志愿者创建，包括“通过尖端的AI技术实验性节目，旨在创新娱乐、筹款和通过引起公众关注”。确实，上述直播包括捐款给直播所有者的选项（而不是慈善机构），但这笔钱到底去了哪里？
“现在，我们专注于AGI [人工通用智能]研究，因为我们认为这是我们目前能够专注的最重要的问题，”奇点小组联合创始人Reese Leysen在我联系他时告诉我。
“在OpenAI、谷歌、Facebook和许多其他公司急于最大限度地发挥AI的商业潜力，只是增加一些原始的额外层来保持其‘智能’的同时，我们认为将AI（最终是AGI）作为独立推理和对现实和伦理问题产生新兴理解的正确架构的研究至关重要，而不仅仅是构建没有真正推理过程的智能系统，因此几乎不可能‘智能话题化’，从而导致对社会和人类可能产生前所未有的风险。”
因此，Twitch上的这些AI直播被描述为技术的小规模、有限的展示，Leysen表示这将有助于确立奇点小组“作为一个研究团队，并吸引更多活跃于开源AI社区的人才，从而实现更多的合作”。简单来说，这是数据收集和招聘。
Twitch被选择作为平台，因为它“远比其他平台更容易获得动力”，Leysen说，但同时他也指出，Twitch对准则的执行有时可能很严格和不可预测，这使得自主和互动的全天候AI直播具有挑战性。
“因此，过去八个月中我们实际上将大部分精力和资源投入到开发我们自己的先进的管理系统中，以避免AI输出任何可能违反Twitch规定的内容，”他补充道。
通过这些直播筹集到的捐款将直接用于进一步研究和开发AI直播。该团队的技术现在允许AI实时对YouTube视频做出反应，例如，以及几乎零延迟的实时语音互动，使对话可以自然流畅地进行。Leysen说：”这些是我们很可能在即将推出的新直播中展示的概念，使用不同的角色和格式。”
Leysen为移动迷你游戏使用加密货币进行筹款辩护。他说：”作为活动家，我们一直试图将我们的努力集中在能够产生最大积极影响的领域。”他说：”在某个时候，我们意识到，除非我们有像一个能够可持续筹款的移动游戏这样的东西，否则我们的慈善努力无法再扩大。而不仅仅依靠我们的直播。”
然而，AI技术的崛起导致该团队转变了重点。他继续说：”自从DALL-E和ChatGPT开始崭露头角以来，我们开始将优先事项转向AI研究，因为它对社会产生的颠覆性影响以及AGI可能在未来十年内出现，使我们优先考虑为更安全、更负责任地开发基本的AI架构做出贡献。”
目前对AI和加密货币存在很多怀疑，Leysen将其归咎于讨论往往”相当简单和部落化”。他说，该团队”大部分精力都集中在对AI领域的技术贡献上，而不是试图改变人们的想法”，并补充说AI现在已经掌握在大众手中，而不仅仅是大公司的手中。事实上，Leysen认为，小团体也在推动AI进步非常重要。
他说：”我们正在尽一切努力开发技术，最终能够带领我们到一种能够负责任和建设性地推理的AGI形式，而不是可能成为由巨大公司控制的难以想象的超级武器。”Leysen引用了一丝赛博朋克的意味。但是，与不良公司创建未受监管的AI内容相关的问题仍然存在。
关于Twitch上的深度伪造内容仍然是一个主要关注领域。今年早些时候，该平台不得不更新其有关显性深度伪造内容的政策，因为有关女性主播的图片被制作并在网上分享。正如Kotaku当时报道的那样，主播Brandon “Atrioc” Ewing意外透露他的电脑上有显性深度伪造的主播内容，而受影响的女性本人对此毫不知情。
因此，Twitch发布了一项政策，禁止使用显性深度伪造内容，或者他们所称的”合成非自愿剥削图片”（NCEI）。”在Twitch上，不欢迎创建、推广或查看此类内容，”它说。
然而，该政策还涵盖了”新兴趋势”的深度伪造内容，Twitch表示，这将需要在其规划、响应和行动中进行仔细而深思熟虑。它继续说：”并非所有合成创建的内容都是性质不良的，也不是所有内容都是非自愿的。这个话题非常受到我们的关注，我们始终关注新出现的行为，以确保我们的政策与我们服务中发生的事情保持相关。”
此外，Twitch最近更新了其保护儿童的安全措施，包括确保移除生成AI辅助的儿童性虐待材料（CSAM）等剥削性内容。
尽管如此，Twitch允许深度伪造和AI内容，包括使用拜登和特朗普等现实世界的人物，但显然存在明确的性质界限。”这是我们将继续关注的一个领域，但我认为主播们将成为这方面的创新者，”Twitch的全球合作伙伴副总裁Jeremy Forrester在今年早些时候的TwitchCon Paris上告诉我，讨论了AI作为一个潜在增长领域的话题。
Twitch全球合作伙伴副总裁Pontus Eskilsson在对Eurogamer的一份新声明中表示：”Twitch主播以其创造力而闻名，即使在这个早期阶段，一些主播已经开始尝试使用AI创建非常独特的内容，为动画直播和VTubing开辟了新的创造机会，以及直播他们的技术努力训练新模型。
“即使有这个有趣且及时的Twitch子类型存在，我们的服务的核心始终是帮助Twitch上的人们找到社区，并确保他们能够安全地这样做。无论他们是否使用人工智能，我们的服务上的所有主播和频道都受到Twitch全站社区准则和服务条款的约束。”
Leysen还评论了通过人工智能进行的深度伪造内容的道德责任。他说：“在这方面，我们的立场相当传统：任何有意欺骗性使用技术的行为都是有问题的，像Twitch这样的平台将越来越需要找到方法来防止滥用，这是一个非常大的挑战。”
“我们希望我们的展示能够提高人们对此的认识，我们经常看到观看我们的直播的人对技术已经具备的能力感到震惊，这让他们在下次看到创作者/名人/政治家在可能存在伪造的情况下出现时，会再三考虑。”
Leysen补充说，对于以真实人物为基础的The Singularity Group的直播，内容明确标示为恶搞，符合合理使用的标准。前面提到的AI直播争议是一个例子。
“即使我们的AI恶搞角色可能粗俗和失控，我们付出了大量的努力，努力确保他们的输出不会对他们的个人背景不敏感，”Leysen说道。“这种情况的例外是那些与我们联系并明确告诉我们没有禁忌的主播，他们实际上希望他们的AI恶搞自由地利用他们的一切已知信息进行玩乐。到目前为止，我们没有接到主播的投诉，我们从他们中的许多人那里听说他们喜欢我们的创作，有相当多的主播对我们的直播做出了实时反应，展示了他们的AI恶搞角色。”
显然，AI内容和直播在Twitch上是留存下来的，尽管它们对于寻找社区的核心贡献有争议。对于The Singularity Group的Leysen和活动家来说，AI直播属于该平台的合理使用范围，并且是展示人工智能技术和颠覆性能力的方式，同时也同时凸显了它的危险性。虽然对于显性内容有明确的界限，但是AI在Twitch直播中的整合能走多远呢？我们会很快看到完全由AI运行的直播吗：玩游戏、回应聊天，并创建一个安全和受控的社区？
也许这是一个要问耶稣的问题。
