Sora视频模型

Sora视频模型图片

该模型对语言有深刻的理解，使其能够准确地解释提示并生成表达生动情感的引人注目的角色。Sora 还可以在单个生成的视频中创建多个镜头，以准确保留角色和视觉风格。

目前的模型有弱点。它可能难以准确模拟复杂场景的物理特性，并且可能无法理解因果关系的具体实例。例如，一个人可能会咬一口饼干，但之后，饼干可能没有咬痕。

该模型还可能混淆提示的空间细节，例如，左右混淆，并且可能难以精确描述随时间推移发生的事件，例如遵循特定的相机轨迹。

安全

在OpenAI的产品中提供Sora之前，我们将采取几个重要的安全措施。我们正在与红队成员合作，他们是错误信息、仇恨内容和偏见等领域的领域专家，他们将对模型进行对抗性测试。

我们还在构建工具来帮助检测误导性内容，例如检测分类器，可以判断视频何时由 Sora 生成。我们计划包括C2PA 元数据将来，如果我们在 OpenAI 产品中部署模型。

除了开发新技术来准备部署之外，我们还利用现有的安全方法我们为使用 DALL·E 3，也适用于Sora。

例如，一旦进入 OpenAI 产品，我们的文本分类器将检查并拒绝违反我们使用政策的文本输入提示，例如那些请求极端暴力、色情内容、仇恨图像、名人肖像或他人 IP 的提示。我们还开发了强大的图像分类器，用于查看生成的每个视频的帧数，以帮助确保在向用户显示视频之前，这些视频符合我们的使用政策。

我们将与世界各地的政策制定者、教育工作者和艺术家合作，了解他们的担忧，并确定这项新技术的积极用例。尽管进行了广泛的研究和测试，但我们无法预测人们使用我们技术的所有有益方式，也无法预测人们滥用技术的所有方式。这就是为什么我们认为，随着时间的推移，从现实世界的使用中学习是创建和发布越来越安全的人工智能系统的关键组成部分。