您当前位置: 首页 - 科技动态 - OpenAI发布GPT-4o驱动的多模态审核系统:高效过滤文本及图像不良信息

OpenAI发布GPT-4o驱动的多模态审核系统:高效过滤文本及图像不良信息

文章来源:互联网 作者:38资源网 发布时间:2025-04-11 22:01:44

近日,OpenAI于此前不负众望,揭晓了其最新的多模态内容审查模型——“omni-moderation-latest”。这款模型的诞生,标志着在维护网络环境的健康与安全方面迈出了重要一步,通过先进的人工智能技术实现对文本、图像及视频等多类型内容的高效审核与管理。

OpenAI发布GPT-4o驱动的多模态审核系统:高效过滤文本及图像不良信息

该模型基于最新的 GPT-4o 技术,能够准确地识别检测有害文本图像。这一更新将为开发者提供强大的工具,让他们能够构建更强大的审核系统。

新模型的亮点在于,它支持对文本和图像输入进行审核,特别是在处理非英语内容时表现更加出色。

与之前的审核模型相比,“omni-moderation-latest” 不仅提高了识别的准确性,还增加了检测更多有害内容的能力。它可以对暴力、自残和性内容等多个类别进行评估,确保用户能够在一个更安全的空间中交流。

OpenAI自2022年推出内容审核 API (Moderation API )以来,自动化审核系统需要处理的内容量和种类不断增加,尤其是随着越来越多的人工智能应用进入大规模生产阶段。如今,许多公司,例如 Grammarly 和 ElevenLabs,都在使用这一 API 来保护用户安全,防止不当内容的产生。

新模型的优势体现在多个方面:

首先,它可以进行多模态的有害内容分类,针对图像和文本的组合进行评估,识别暴力残及性相关的风险。

其次,模型新增了两类文本审核,分别是与违法和暴力相关的内容,进一步增强了审核能力。

另外,对于非英语内容的检测,准确度大幅提升测试显示在40语言中的准确率提高了42%,尤其在低资源语言上表现更为突出。

对于开发者来说,这款新的审核模型依旧是免费的内容审核 API 可以轻松接入。OpenAI 希望这项升级能让更多的者利用最新的研究成果和安全系统,为用户创造更加友好的在线体验。

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

OpenAI的SearchGPT官方演示竟惨遭滑铁卢,这一状况引发了广泛关注和诸多讨论。而另一边,特朗普宣称比特币市值终将超黄金,此言论一出,更是在金融界掀起轩然大波。人们对此观点褒贬不一,市场也因此充满了不确定性和更多的猜测。

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

OpenAI惨遭打脸!SearchGPT官方演示大翻车,源代码竟暴露搜索机制

OpenAI再次上演了谷歌Bard出糗的一幕,SearchGPT官方震撼演示却被外媒曝出低级错误。另有神通广大的开发者甚至扒出内部源码,揭秘了背后搜索机制。网友最新一手实测,AI秒级回复让全网惊呆。(新智元)

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

特朗普承诺将比特币列为战略储备资产,投资者嫌弃不够激进

美国前总统特朗普在比特币2024大会上承诺,若再次当选,将确保政府100%保留比特币并将其列为战略储备资产,逆转拜登政府对加密行业的政策,并任命比特币总统顾问委员会。然而,投资者认为他的承诺不够激进,与其他候选人提出的更为激进的比特币储备计划相比,特朗普的立场显得较为保守。(财联社)

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

大模型在游戏领域“上岗”,AI重塑互动娱乐行业

2024ChinaJoy在上海开幕,人工智能技术在游戏领域成为研发“标配”。腾讯、网易等公司展示了AI技术在游戏制作和互动中的广泛应用,提升了生产效率和玩家体验。专家认为AI时代的智能体需要兼具智商和情商,未来AI在游戏中的角色将更加复杂和智能。(财联社)

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

苹果AI主要功能将晚于iOS18的首次发布,延迟至10月

苹果公司原计划随iOS18一同推出的先进人工智能功能将不得不推迟其亮相时间,预计将在10月份作为软件更新的一部分向用户推出,这意味着它将在原定于9月发布的iOS18和iPadOS18之后几周才能与用户见面。(财联社)

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

Llama4训练已开启!Meta科学家最新采访,揭秘Llama3.1是如何炼成的

Meta科学家Thomas Scialom在播客节目中揭秘了Llama3.1的研发思路,包括参数规模、模型架构、合成数据的使用等。他透露Llama4的训练已开始,可能会围绕agent技术展开。Llama3.1的研发重点在于提升推理效率和开源社区的应用,尽管模型规模大,但通过量化技术可以在单节点上运行。(新智元)

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

美国司法部指控TikTok收集用户敏感问题数据

据外电报道,美国司法部指控TikTok收集大量美国用户对堕胎和枪支管制等争议性问题的看法数据。法庭文件显示,TikTok员工使用名为Lark的系统与字节跳动在中国的工程师共享敏感数据。TikTok否认了这些指控,称拟议的禁令违反了《第一修正案》。(鞭牛士)

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

为了广告费,一向佛系的Netflix是真急了

Netflix面对广告业务的竞争,从佛系变得激进,卷入与亚马逊的价格战,更改订阅套餐,自建广告系统。亚马逊Prime Video以低CPM价格吸引广告主,Netflix被迫降价。Netflix通过取消无广告套餐、打击密码共享、捆绑销售策略扩大含广告套餐用户量。(刀客doc)

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

阿里大模型元老杨红霞去向:入职香港高校!被曝创业项目也在推进

原阿里达摩院智能计算实验室负责人及M6大模型关键研发者杨红霞,已加入香港理工大学任电子计算机系教授。此外,她还在筹备大模型领域的创业项目及全球化AI项目,其研究方向包括贝叶斯统计、机器学习等。(量子位)

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

猎豹移动傅盛:训练大模型就像“炼丹”,敢于投钱才能把ChatGPT做出来

傅盛日前在2024中国企业未来之星年会上表示,ChatGPT的成功源于技术信仰而非单一技术。他强调,OpenAI通过大量语言数据训练模型,相信智能可通过预测生成,而非传统规则理解。傅盛认为,技术信仰和投资是推动ChatGPT发展的关键。(每日经济新闻)

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

8月13日发布,谷歌Pixel9Pro XL样机上手视频流出

谷歌计划于8月13日举办发布会,预计推出Pixel9系列新机,包括Pixel9Pro XL。有国外视频博主提前分享了该机的设计样机上手视频,新机预计配备6.8英寸屏幕、Tensor G4芯片和高达16GB内存。(IT之家)

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

世界首富的“强强联合”?LV董事长称曾和马斯克讨论合作造火箭

LV董事长伯纳德·阿尔诺在接受采访时表示,他与马斯克建立了非凡的友谊,并非常钦佩马斯克在汽车和火箭领域的成功。两人甚至讨论过合作推出品牌火箭,阿尔诺开玩笑说如果成真,他担心马斯克会要求他去太空。(IT之家)

每日科技早报|OpenAI的SearchGPT官方演示惨遭滑铁卢,特朗普宣称比特币市值终将超黄金

OpenAI技术革新:ChatGPT实现语音视觉融合,交互体验升级

12 月13日消息,在备受瞩目的“OpenAI 12 天”活动中,OpenAI 公司迎来了第六天的惊喜。他们宣布,为了让 ChatGPT 的高级语音模式更加完善,现已为其增加了视频输入和屏幕共享这两项实用功能。

OpenAI技术革新:ChatGPT实现语音视觉融合,交互体验升级

这一创新举措无疑将极大地丰富用户的交互体验。同时,为了迎接即将到来的圣诞节,OpenAI 还特别限时推出了全新的圣诞老人模式,为用户带来更加有趣和节日氛围的 AI 互动体验。

高级语音模式下的视频和屏幕共享

OpenAI 公司表示未来几天时间内,会向大多数 ChatGPT Plus 和 Pro 用户以及所有 Team 用户,推出视频和屏幕共享。该聊天机器人的企业和教育用户将在 1 月份获得视频和屏幕共享功能。

ChatGPT 的高级语音模式现在可以通过智能手机摄像头支持视频聊天,并通过屏幕共享来识别设备屏幕显示的物体。

用户可以通过以下步骤使用:

在手机上打开 ChatGPT 应用

点击聊天栏附近的语音图标

点击左下角的视频图标即可启用视频输入

或者点击三个点的菜单,选择“共享屏幕”进行屏幕共享

圣诞老人模式

OpenAI 推出了全新的圣诞老人模式,用户可以通过语音选项与“圣诞老人”对话。该模式将 ChatGPT 语音球转换成雪球,语音按钮也变成了雪花图标。

圣诞老人模式已于近日全球上线,并将持续到 1 月初,所有对话均为临时对话,不会影响用户的聊天记录。

复制本文链接 攻略文章为38资源网所有,未经允许不得转载。