2023年9月13日
By Tyler Nesler Associate Editor
Short Cuts

如何应对人工智能幻觉、版权和事实核查

流媒体专业人士如何应对使用人工智能系统时出现的所有版权和事实核查陷阱，这些人工智能系统接受过公共数据集的训练，就像互联网本身一样错误丛生、被不当征用? 本·拉特纳，新闻技术总监， Boston 25 News，与智能视频高级分析师Steve Vonder Haar讨论了如何在这个雷区中导航 & Enterprise, IntelliVid Research, Jeremy Toeman，创始人 AugX 拉布拉斯和科里·本克，制作人 & Co-Founder, LiveX 在这段视频中流媒体连接2023.

拉特纳首先回答了网络研讨会观众贝丝·罗森的问题: 你是怎么处理的 AI hallucinating 版权问题和事实核查? “所以对于那些不知道的人,” Ratner says, “人工智能很大程度上是建立在从互联网上收集的大量信息之上的, 通常未经允许. 那么我们如何处理媒体和流媒体中的这个特殊问题呢?”

Vonder Haar说:“对我来说，这是一种垃圾进垃圾出的情况. 如果你要从网上获取信息, God bless you, 因为你没有一个可靠的信息来源. 人工智能真正的未来将是, 至少在商业意义上是这样, 在有限的数据集的开发中，这些数据集用于在特定的公司网络[和]特定的个人领域内为决策提供信息.然后他问杰里米·托曼，关于当前人工智能的问题，AugX实验室为他们的客户群看到了什么.

Toeman简要地解释了AugX实验室的工作. “In a nutshell, 我们要做的就是用叙述, 我们将其与库存内容或用户拥有的媒体相匹配, 我们把它和一个小的光编辑产品放在一起, 所以它对人们来说很容易使用.他指出，在人工智能生成内容的背景下，对数字版权管理的认识因用户类型而异. “例如，我们与 Getty,” he says. “因此，当我们的营销客户制作视频时, 他们正在使用盖蒂的内容, (而且)他们明白这是拥有版权的媒体. 当我们随机找到使用它的个体时，他们使用的是这样的东西 GIPHY，他们正在使用谷歌图片搜索诸如此类的事情. 所以，正如我们所看到的，这有点像已知的宇宙和这个全新的世界. 我对世界采取一种版权友好的态度. 所以，在任何时候，我们的生成组件都是完全隔离的. 例如，如果您不想使用我们的脚本编写功能，可以编写自己的脚本，没有问题. 我们跟营销人员谈过，他们说，‘我不允许使用人工智能写的剧本.“因此，通过提供‘任意’级别，我们可以满足用户的需求.”

关于人工智能的幻觉，Toeman说:“这是一个真正的问题. 我们处理这个问题的方式是，这是开发者的责任. 我们有责任, 如果你想做一个关于玉米饼的视频, 在它中间, 并不是突然之间就有了关于汉堡的讨论. That's on us. 所以我坦率地认为, 这取决于每个产品团队, 不管他们在制造什么工具, 是否生成图像, video, text scripts, whatever.”

“墨西哥卷饼只是一个你做得不够好的汉堡包, 它在烤架上就散了,” Ratner jokes.

“听起来像…… SNL 小品，但我不确定!” Toeman says.

拉特纳问大家:“你们是否在处理将自己的信息放入这些模型的问题? 视频脚本之类的信息? 你只是在使用 ChatGPT’s 现有知识库?”

“我可以说，”LiveX的本克说. “我们有一款产品叫做 switcher.ai，我们不使用公开的数据集. 我是技术总监. 在我的生命历程中，我认识其他技术总监. 我为语言模型做的一件事是，如果我要用一个人工智能代替技术总监, 我需要输入我知道的东西. 很多直播和直播都非常公式化. 让我们以礼拜堂为例:我要请牧师, 我要去唱诗班, 那我就回去找牧师, 那我就回唱诗班去. 这是非常公式化的，以体育为例 NFL.”

Behnke强调，如果你在特定类型内容的可预测参数范围内工作，那么大量的外部数据集是不必要的. “所以，如果我们采用这个模型，然后给每个模型一个主要公式, 我们不需要使用外部数据集,” he says. “我认为，现在，在我们生活的这个世界上，这将使其他人与众不同. 如果你只使用一个完整的公共数据集, 我觉得你不知道这一切从何而来. 所以掌握你的数据集，让你知道里面有什么是很重要的.”

在下一篇文章中了解有关流媒体行业主题的更多信息 流媒体连接将于2023年11月实现.