人工智能巨头 OpenAI 周四(2月15日)发布了首个 AI 视频模型 Sora,作为他们今年扔出的第一个杀手锏。该模型可以根据用户在文本框中输入的提示生成长达一分钟的视频。
OpenAI 首席执行官 Sam Altman 在 X 上征求了关于提示的想法,并生成了一系列视频,包括“一只乌龟骑着自行车穿越海洋”,以及“一对在山上播客的狗”和烹饪视频等。
https://t.co/uCuhUPv51N pic.twitter.com/nej4TIwgaP
— Sam Altman (@sama) February 15, 2024
OpenAI 的一位发言人写道:“我们不会立即在我们的产品中广泛使用这个模型”,并补充说公司现在分享其研究进展是为了获得来自人工智能社区其他成员的早期反馈。
OpenAI 在一篇博客文章中写道,Sora 可以准确生成多个角色和不同类型的运动。“我们正在教导人工智能理解和仿真运动中的物理世界,目标是训练能帮助人们解决需要真实世界交互的问题的模型。”
Prompt: “Several giant wooly mammoths approach treading through a snowy meadow, their long wooly fur lightly blows in the wind as they walk, snow covered trees and dramatic snow capped mountains in the distance, mid afternoon light with wispy clouds and a sun high in the distance… pic.twitter.com/Um5CWI18nS
— OpenAI (@OpenAI) February 15, 2024
但该公司坦承,Sora 可能会在捕捉更复杂场景的物理或空间细节方面遇到困难,这可能会导致它生成一些不合逻辑的内容(比如一个人在跑步机上朝错误的方向跑步),以不自然的方式改变主体,甚至导致主体在空中消失。
Prompt: “Animated scene features a close-up of a short fluffy monster kneeling beside a melting red candle. the art style is 3d and realistic, with a focus on lighting and texture. the mood of the painting is one of wonder and curiosity, as the monster gazes at the flame with… pic.twitter.com/aLMgJPI0y6
— OpenAI (@OpenAI) February 15, 2024
尽管如此,OpenAI 分享的许多演示展示了超现实主义的视觉细节,这可能会让普通互联网用户很难区分由人工智能生成的视频与真实视频。例如,其中包括无人机拍摄的波浪拍打在日落余晖下的崎岖 Big Sur 海岸线的镜头,以及一个女人在被雨水打湿的繁忙东京街道上漫步的片段。
Prompt: “A stylish woman walks down a Tokyo street filled with warm glowing neon and animated city signage. she wears a black leather jacket, a long red dress, and black boots, and carries a black purse. she wears sunglasses and red lipstick. she walks confidently and casually.… pic.twitter.com/cjIdgYFaWq
— OpenAI (@OpenAI) February 15, 2024
然而,随着对名人、政治人物等的伪造视频在网上变得越来越普遍,该项技术也引发了质疑和担忧。
联邦贸易委员会(Federal Trade Commission)周四提出了旨在禁止利用 AI对真实人物进行伪造的规定,扩大了其在政府和企业冒充方面正在实施的保护措施。
联邦贸易委员会表示:“鉴于冒充欺诈投诉的激增,以及公众对冒充个人行为造成伤害的公开抗议,该机构正在采取这一行动。”“新兴技术,包括 AI 生成的深度伪造,或会加剧这一祸害,联邦贸易委员会致力于利用其所有工具来检测、阻止和制止冒充欺诈。”
Prompt: “A movie trailer featuring the adventures of the 30 year old space man wearing a red wool knitted motorcycle helmet, blue sky, salt desert, cinematic style, shot on 35mm film, vivid colors.” pic.twitter.com/0JzpwPUGPB
— OpenAI (@OpenAI) February 15, 2024
OpenAI 则表示正在努力开发工具,可以检测出视频是否是由 Sora 生成的,并计划在将来如果该模型向公众开放使用,将包含元数据的消息嵌入到这类内容中,以标记视频的来源。
该公司还表示,正在与专家合作,测试 Sora 是否具有通过虚假消息、仇恨内容和偏见造成伤害的能力。
来源: NBC News