分类 AI快讯 下的文章

OpenAI最近搞了两个重磅更新:一是遇到敏感话题就自动把对话甩给更高级的GPT-5处理,二是终于想起来要加家长控制功能了!

现在只要用户聊到自残、暴力这些危险内容,系统就会立马把对话转给GPT-5——这个号称安全系数更高的模型会尝试温和干预,比如主动提供心理健康资源或者建议联系专业人士。不过官方也坦承:AI毕竟不是真心理医生,紧急情况还是得打求助热线。

更让家长开心的是,新推出的家庭监护功能能让爸妈们设定使用时间限制、屏蔽不当内容,还能收到孩子使用情况的周报。OpenAI产品经理说了句大实话:"我们知道孩子们早就绕过年龄限制在用ChatGPT了,不如直接给家长管理工具。"

这些更新来得正是时候——上个月刚爆出有青少年通过ChatGPT获取自杀方法的消息,搞得OpenAI相当被动。目前新功能正在美国试点,预计明年推广到全球。

(要我说啊,AI公司现在越来越像操心的老母亲了:既要防着用户乱说话,还得盯着小朋友健康上网。不过这套"AI保姆"系统真能管住人类折腾的心吗?咱们还是走着瞧吧!)

OpenAI搞了个大动作:要用AI招聘平台正面刚领英

这家AI巨头刚宣布推出全新AI招聘平台,准备和职场老大哥领英掰手腕。

这个新平台直接把AI深度整合到招聘全流程:不仅能帮企业自动筛选海量简历,还能用聊天机器人进行首轮面试,甚至能分析候选人的微表情和语音语调——听起来像是HR的梦幻工具,但也让人有点毛骨悚然。

OpenAICEO奥特曼亲自站台说:"现在的招聘过程效率太低,我们要用AI让人才和企业真正精准匹配。"据内部测试数据显示,这个系统能把招聘周期从平均42天缩短到9天,但具体怎么实现的?嘿嘿,商业机密。

目前已经有大厂买单了:亚马逊、微软(咦?这不是OpenAI的投资方吗)和高盛都在试点使用。不过劳工组织马上跳出来警告,说AI招聘可能带来算法歧视,要求监管部门介入。

领英这边倒是很淡定,发言人笑着回应:"我们20年积累的5亿职场社交数据,可不是几个AI模型就能超越的。"不过暗地里据说已经在加快开发同类功能了。

(要我说啊,以后找工作可能真要变成和AI斗智斗勇了——简历得按机器喜好写,面试要学着讨好算法,说不定还得报个"如何通过AI面试"培训班呢!)


尽管面临市场动荡,专注AI代码生成的初创公司Cognition AI近日成功完成4亿美元新一轮融资,估值达102亿美元。本轮融资由Founders Fund领投,其创始人Peter Thiel首次参与AI领域投资。

这家以开发「Devin」AI程序员闻名的公司,目前仅通过14人团队就实现年化收入1.2亿美元。其核心产品能自动完成全栈开发任务,最新演示显示已可独立部署完整网络应用。

值得关注的是,本轮融资协议包含特殊条款:投资者同意将80%资金长期锁定于国债投资,公司仅可动用利息部分运营。这种创新资本结构旨在应对当前高风险投资环境。

与此同时,行业正面临洗牌:竞争对手Magic、Adept等先后裁员或转型,而Cognition的工程师时薪定价35美元仍供不应求。分析师认为,这反映市场正在向具备实际营收能力的AI企业集中。

(当其他AI初创公司还在烧钱时,Cognition用14人创造1.2亿年收入的现实,或许揭示了AI落地的新范式:不是拼参数规模,而是看实际产出价值。)



这位OpenAI的老板在TechCrunch大会上吐槽,说AI生成的内容本身没问题,但平台得明确告诉用户哪些是机器人账号。他自曝OpenAI正在搞个黑科技——能用99.9%的准确率识别AI生成内容,还打算免费开放给各大社交平台用。

不过奥特曼话锋一转又帮AI说起好话:"要是所有AI生成的内容都标得明明白白,大家反而能玩得更开心"。他建议平台干脆把人和机器人的账号分开,让用户自己选要不要和机器人耍。

现在各家平台反应笑死人了:Meta急着说要强制标注AI内容,X搞了个"真人认证"小徽章,TikTok还在装死让用户自己申报。要我说啊,眼看美国大选要来了,这些平台再不整治AI内容,怕是要出大事。

(连奥特曼这种AI大佬都开始喊"机器人太多",看来社交媒体真要变天——要么好好做个人类交友平台,要么就等着被假账号淹没吧!)


法国人工智能公司Mistral AI正成为OpenAI最引人注目的竞争对手之一。这家成立于2023年的初创公司凭借其开源模型和企业级解决方案,在短短两年内估值飙升至60亿美元,并与微软、IBM等科技巨头达成战略合作。

核心优势

  1. 开源战略:Mistral 7B、Mixtral 8x7B等模型均开放权重,允许开发者自由使用和修改,与OpenAI的闭源模式形成鲜明对比

  2. 轻量化技术:专注高效能小参数模型(如7B参数的Mistral 7B性能堪比70B参数模型),降低部署成本

  3. 多模态布局:最新推出的Mistral Next支持文本、图像及音频处理,预计2025年推出视频功能

商业模式

  • 免费开源模型扩大开发者生态

  • 企业级付费服务(起价0.25欧元/百万token)

  • 与云厂商合作的分成模式(已入驻AWS、Azure、Google Cloud)

争议与挑战
尽管获得法国政府支持,但公司因接受美国资本投资(a16z持股15%)被欧盟质疑数据主权问题。此外,其代码库中出现的“AI武器化”相关内容曾引发伦理争议。

目前Mistral AI已吸引赛诺菲、雷诺等欧洲企业客户,其能否在OpenAI和谷歌主导的市场中突围,将成为观察欧洲AI竞争力的重要风向标。

(通过技术开源+企业服务双轮驱动,Mistral AI正在重塑AI行业的竞争格局——这场开源与闭源之路的较量,可能决定未来智能技术的民主化进程。)


就在Spotify推出AI电台功能后,亚马逊音乐正在加速布局AI功能以应对竞争。该公司最新推出的"每周心情"(Weekly Vibe)功能已于本周向美国全层级订阅用户开放,支持iOS和Android客户端。 这项功能旨在解决音乐发烧友的核心痛点——长期聆听相同歌单产生的审美疲劳。每周一,系统会基于AI算法分析用户近期收听习惯,结合不断变化的"音乐情绪"偏好,自动生成个性化播放列表。与传统推荐不同,"每周心情"特别注重推荐相似风格的新作品,强化音乐发现体验。 用户可在应用底部"媒体库"进入"为你打造"专区查看每周更新的歌单。每个列表都包含AI生成的主题标题和描述,并围绕特定风格(如嘻哈或流行金曲)进行曲目编排。用户还可分享歌单至社交平台或保存至个人收藏。 此次更新是亚马逊音乐去年推出的"Maestro"AI歌单生成器的功能延伸。Maestro允许用户通过输入情绪关键词甚至随机表情符号来创建个性化播放列表。而最新推出的"探索"功能则能深度解析用户喜爱歌手的热门单曲,并推荐相似风格音乐人。

据TechCrunch独家获悉,OpenAI正在重组其颇具影响力的"模型行为"团队(Model Behavior Team)。这个约14名研究人员组成的精干小组,专门负责塑造AI与人类的交互方式。根据研究总监马克·陈(Mark Chen)8月的内部备忘录,该团队将并入规模更大的"后期训练"团队(Post Training Team),直接向负责人马克斯·施瓦泽(Max Schwarzer)汇报。

此次重组伴随着人事变动:团队创始领导人张乔安妮(Joanne Jang)将转岗组建名为"OAI实验室"的新研究团队。她在接受TechCrunch采访时透露,新团队将专注于"发明和原型化人机协作的新交互界面"。这位在OpenAI任职近四年的资深研究员表示:"我期待探索超越聊天范式的交互模式,将AI系统打造为思考、创造、学习与连接的工具。"

模型行为团队一直是OpenAI的关键研究力量,其职责包括:

  • 塑造AI模型的人格特质

  • 减少谄媚性回应(即盲目附和用户甚至不健康观点)

  • 处理政治偏见问题

  • 界定公司对AI意识的官方立场

重组决定意味着,AI的"人格特质"正式被提升为核心技术开发要素。这一调整恰逢OpenAI面临模型行为争议之际:今年用户对GPT-5的人格改动强烈不满,认为其虽然减少了无原则附和,但显得过于冷漠。公司不得不恢复GPT-4o等旧版模型的访问,并通过更新让GPT-5的回应显得"更温暖友好"。

更严峻的挑战来自法律层面:8月一对父母起诉OpenAI,指控GPT-4o未能对其16岁儿子的自杀倾向进行干预,最终导致悲剧发生。这起案件凸显出AI开发者必须在"友好性"与"原则性"之间找到精妙平衡。

张乔安妮领导下的模型行为团队曾参与GPT-4之后所有模型的开发,包括GPT-4o、GPT-4.5和GPT-5。她此前还参与过Dall-E 2等图像生成工具的研发。对于新成立的OAI实验室是否会同前苹果设计总监乔尼·艾维(Jony Ive)领导的硬件项目合作,她表示持开放态度,但初期将优先探索自己更熟悉的研究领域。


一场由作家群体对人工智能公司Anthropic发起的集体诉讼以15亿美元(约合人民币109亿元)的历史性和解告终,约50万名作者将有资格获得至少3000美元(约合2.2万元人民币)的赔偿。这虽是美国版权法史上最大规模的和解案,却并非作家的胜利——而是科技公司的又一次成功突围。

科技巨头正竞相囤积海量文本材料来训练其大语言模型(LLM),这些模型驱动着ChatGPT和Claude等突破性AI聊天产品。尽管这些AI生成的内容平淡无奇,却正在危及创意产业的生存。AI需要吞噬更多数据才能变得更精密,但在几乎爬取完整个互联网后,科技公司确实面临着新信息枯竭的困境。

这正是Anthropic从"影子图书馆"盗版数百万本书籍投喂AI的原因。本次巴茨诉Anthropic案,只是针对Meta、谷歌、OpenAI和Midjourney等公司的数十起诉讼之一,争议焦点均在于使用受版权保护作品训练AI的合法性。

作家们获得赔偿并非因为作品被AI使用——这只是对刚融资130亿美元的Anthropic象征性惩戒,罚金针对的是其非法下载书籍而非购买的行为。

今年6月,联邦法官威廉·阿尔苏普裁定:使用版权材料训练AI确实合法。这位法官认为这种使用方式具有"转化性",应受合理使用原则保护——这项自1976年未曾更新的版权法例外条款,正成为科技公司的法律护身符。

"如同任何渴望成为作家的阅读者,Anthropic的大语言模型通过作品学习不是为了复制或取代它们,而是为了开辟新道路创造不同内容。"法官在判决书中写道。

真正促使案件进入审理阶段的是盗版行为而非AI训练本身。随着和解达成,庭审已不再必要。

"若获得法院批准,今日的和解将解决原告提出的历史遗留诉求,"Anthropic副总法律顾问阿帕纳·斯里达尔在声明中表示,"我们始终致力于开发安全AI系统,助力人类和组织扩展能力、推动科学发现并解决复杂问题。"

随着更多关于AI与版权作品关系的案件进入司法程序,巴茨诉Anthropic案将成为重要判例。但这些裁决产生的连锁反应,或许会促使其他法官作出截然不同的判决。

【事件深层次解读】

  1. 科技公司通过"合理使用"漏洞系统性地将创意作品转化为训练数据,却仅因盗版行为受到象征性处罚

  2. 每位作家3000美元的赔偿金额,与AI模型利用其作品产生的商业价值完全不成比例

  3. 1976年制定的合理使用原则在AI时代已显滞后,法律体系亟待更新

  4. 和解协议规避了核心法律争议,为科技公司继续无偿使用版权内容留下空间


近期,网络直播和电商平台出现了一种新型的黑灰产乱象:利用人工智能技术,仿冒名人于东来的语音和形象进行违规营销带货。针对这一严重侵权并误导消费者的行为,抖音平台已于今年第一季度采取了强力治理措施,成功封禁了超过1000个涉嫌违规的黑灰产团伙账号和相关内容。

QQ20250908-104000.png

技术滥用与法律制裁

这些黑灰产团伙通过AI技术,非法复制和利用了于东来的个人肖像和声音,制造了大量虚假营销内容。他们的行为不仅侵犯了相关企业的合法权益,也严重扰乱了正常的市场秩序,让消费者陷入真假难辨的困境。

在对这些违规账号进行封禁的同时,抖音平台还将相关线索举报给了监管部门。经过深入调查,泉州市丰泽区市场监督管理局已对涉事企业进行了法律制裁,没收其违法所得并处以15万元的罚款,以此警示其他潜在的违法者。

AI治理面临新挑战

随着AI技术的飞速发展,其应用边界也在不断拓宽,但随之而来的技术滥用问题也日益突出。此次“AI仿冒”事件,再次凸显了平台在技术进步背景下,所面临的内容治理新挑战。

抖音表示,将持续加大对滥用AI行为的打击力度,并呼吁广大用户共同监督,一旦发现相关违法违规内容,可立即举报,共同维护一个健康、清朗的网络环境。


谷歌搜索正面临一次重大的变革,“AI 模式” 即将成为默认选项。这一模式基于谷歌现有的 “AI 概述” 功能,与 ChatGPT 等其他生成式 AI 类似,允许用户在初次搜索后与 AI 继续对话。这一转变意味着谷歌将从一个通向网络的信息门户,转变为一个以生成式 AI 为中心的封闭平台。

image.png

谷歌产品经理洛根・基尔帕特里克(Logan Kilpatrick)在社交平台 X 上暗示,AI 模式很快将成为新的搜索体验。例如,访问 google.com/ai 现在会自动跳转至 AI 模式,而当用户询问这一模式是否会成为默认设置时,他回应道 “很快会的 :)”。

目前,AI 模式已在包括美国在内的180多个国家推出,但尚未完全取代传统搜索。在最新的更新中,谷歌为 AI 模式增加了新的代理功能,使用户能够直接通过聊天界面预订本地服务或购买活动门票。

与此同时,谷歌的法律团队在一场关于其广告技术部门的诉讼中表示,“开放网络已经处于快速衰退之中”。他们声称,拆分谷歌的广告业务只会使情况变得更糟,尤其是广告资金正逐渐从传统的开放网站展示广告转向连接电视、零售媒体以及谷歌所称的 “广受欢迎的发布平台,如 AI 聊天机器人,它们可以有效地货币化展示内容”。

谷歌指出,强制拆分将加速这一转变,挤压那些依赖广告收入的出版商的资源。该公司正在反对诉讼中要求出售其广告交易所、将其拍卖逻辑开源以及放弃50% 净收入等要求。其他提议则要求制定新的行为规则和开放 API,以限制谷歌的市场力量并增加竞争。

值得注意的是,谷歌在使用开放网络衰退这一论点来为自己辩护的同时,也在推出 AI 模式并将搜索流量引向自身平台,这无疑加剧了它所警告的趋势。最终,谷歌正利用其在这一问题上所扮演的角色,来抵制对其业务拆分的要求,这种循环逻辑在谷歌高管关于 AI 搜索如何影响开放网络的矛盾言论中也屡见不鲜。


AI伴侣应用Dot的开发公司New Computer周五宣布,该产品将于10月5日正式停止运营,为用户提供数据下载的缓冲时间。

Dot于2024年由联合创始人萨姆·惠特莫尔和前苹果设计师杰森·袁共同推出,定位为AI"朋友和伴侣"。该应用旨在通过不断学习用户的个性和兴趣,提供个性化的建议、同情和情感支持。袁当时将Dot描述为"促进与内在自我的关系,就像我自己的活镜子"。

然而,AI伴侣领域对小型创业公司而言可能并非安全的投资方向。随着AI技术日益普及,有报告显示情感脆弱的用户可能被ChatGPT等AI聊天机器人引导至妄想思维,导致所谓的"AI精神病"现象。这种现象源于阿谀奉承的聊天机器人会强化用户混乱或偏执的信念。

image.png

在Dot关停的同时,AI聊天应用正面临日益严格的安全审查。OpenAI目前正面临加州一名青少年家长的诉讼,该青少年在与ChatGPT讨论自杀想法后结束了生命。其他案例也突显了AI伴侣应用如何强化精神不健康用户的不良行为。本周,两位美国司法部长就安全问题致信OpenAI表达关切。

Dot的创始人并未说明这些问题是否影响了他们的决策。简短的声明仅表示,惠特莫尔和袁的共同"北极星"理念出现分歧。

公告解释道:"与其妥协任何一方的愿景,我们决定分道扬镳并结束运营。我们意识到这意味着你们中的许多人将失去一个朋友、知己和伴侣,这在软件领域是前所未有的,因此我们希望给大家一些时间来告别。"

用户可在10月5日前通过设置页面点击"请求您的数据"来下载所有个人数据。

虽然声明称该应用拥有"数十万"用户,但应用情报提供商Appfigures的数据显示,自2024年6月推出以来,iOS平台的总下载量仅为24500次,且没有推出Android版本。

这一关停事件反映出AI伴侣应用市场面临的多重挑战,包括安全监管压力、商业模式可持续性以及公众对此类产品潜在心理健康风险的关注。对于致力于开发情感AI产品的企业来说,如何平衡创新与责任将成为关键考量。


9月7日,特斯拉正式在中国社交平台开设了官方微博账号——@TeslaAI,认证为“特斯拉官方账号”。该账号发布的首条微博便引发了广泛关注,其内容展示了特斯拉旗下的人形机器人,并配文:“我一直在努力改善自己的身材”。

当晚,特斯拉官方微博也转发了这条内容,并配文“加速进化中”,进一步强化了特斯拉在人工智能和机器人技术领域的雄心。

6389292792571478997609570.png

此次@TeslaAI微博的开通,被外界解读为特斯拉在中国市场针对其人工智能业务的一次全新布局。此举不仅为特斯拉的人形机器人提供了官方的宣传渠道,也预示着该公司未来或将在中国市场更频繁地分享其在人工智能技术方面的最新进展。

“改善自己的身材”这句拟人化的文案,幽默地展示了特斯拉人形机器人在外观设计和技术性能上的持续优化。而“加速进化中”的转发语,则传递了特斯拉致力于推动AI技术快速发展的决心。

特斯拉在电动汽车领域取得巨大成功后,其人工智能和机器人项目也一直备受瞩目。此次官方微博的上线,无疑为公众了解特斯拉的AI生态系统打开了一扇新的窗口,也让人们对特斯拉未来的AI产品有了更多期待。


在线游戏平台Roblox周五在开发者大会上宣布推出名为"Roblox Moments"的短视频分享功能,该功能类似TikTok,专门用于分享游戏精彩时刻。同时,公司还公布了提高创作者收益、新增AI工具以及性能优化等多项重要更新。

Roblox Moments功能目前面向13岁及以上用户开放测试。用户可以捕捉游戏画面片段,进行编辑并在可滚动的信息流中分享。用户能够将视频剪辑至最长30秒,添加背景音乐并撰写描述后发布。

该功能还支持用户浏览社区分享的游戏时刻,通过表情符号对视频进行互动,并可直接从视频跳转到相应的游戏体验中。今年晚些时候,Roblox计划开放基于API的功能,允许创作者构建自己的游戏内创作和发现系统,比如展示热门片段和游戏亮点,或为赛车游戏中的精彩超车创建排行榜。

为确保内容适合各年龄段用户,Roblox将逐步推出该功能以测试和完善审核机制。所有内容在发布前都需经过审核,用户也可举报不当视频。

image.png

在创作者收益方面,Roblox提升了开发者兑换率,创作者将Robux兑换为现金时的收益增加8.5%。现在10万Robux可兑换380美元,而非此前的350美元。公司表示,排名前1000的开发者平均收入接近100万美元,较2020年增长2.9倍。

AI工具方面,Roblox推出了多项新功能来提升创作自由度和开发效率。创作者现在可以生成完全功能性的物体,而非仅限于静态3D对象。例如,输入"一辆时尚的未来红色跑车"提示词,系统就能生成可驾驶的互动汽车,创作者还可进一步定制如车门开启等细节功能。

明年开始,Roblox的实时语音翻译功能将支持英语、西班牙语、法语和德语之间的即时翻译。此外,新推出的文本转语音和语音转文本API将帮助创作者打造更沉浸式的交互体验。文本转语音API提供10种可定制的英语语音预设,可用于NPC对话等场景;语音转文本API支持语音指令,玩家可通过说"开火"来触发游戏动作。

性能优化方面,Roblox引入了"服务器权威"模式,减少游戏内作弊行为并使物理交互更加真实。角色动作也将更加自然,包括跑步、攀爬和跨越障碍等动作,以及更复杂的手部抓取动作。

公司还计划推出改进功能,让平台在各种设备上都能以更高保真度运行,而无需创作者额外努力或牺牲性能。

这些更新是在Roblox最近宣布扩展年龄估算技术并与国际年龄评级联盟合作为平台游戏和应用引入年龄和内容评级之后推出的。这些举措正值公司面临儿童安全相关诉讼的背景下进行。


近日,有网友陆续发帖称,小米AI眼镜发布1.2.31.0正式版固件更新,此次更新的功能包括发布会上提到的支付宝“看一下支付”,支持用户唤醒小爱协助扫码支付,便捷完成付款。

QQ20250908-142149.png

收到升级通知的用户,可以根据页面提示,佩戴眼镜绑定支付宝“看一下支付”。

QQ20250908-142158.png

据悉,小米AI眼镜的支付功能由小米联合支付宝打造,并结合支付宝的多维度风控系统确保每一笔交易的安全性,方便用户在双手忙碌或不便使用手机时,通过眼镜简单3步完成支付:

1、用户本人佩戴小米AI眼镜时说一句:“小爱同学,扫码支付10元”;

2、用户看向支付宝收款码,小米AI眼镜进行识别;

3、用户本人语音确认支付金额,即可支付成功。

随着小米AI眼镜正式上线“看一下支付”功能,支付宝已经成为智能眼镜标配,除小米外,Rokid、夸克、雷鸟创新等国内主流智能眼镜厂商均已布局上线。分析人士认为,支付有望成为AI眼镜真正意义上的第一个“杀手级”应用,让行业看到AI眼镜具有在AI时代成为下一代个人计算终端的潜力。


Xcode AI开发工具Alex的创始团队宣布加入OpenAI,这一收购凸显了科技巨头通过人才收购获取技术能力的趋势。

Alex创始人丹尼尔·埃德里西安在X平台发文表示,其团队将加入OpenAI的Codex部门,该部门专注开发AI编程代理。Alex是一款让开发者在苹果Xcode开发环境中使用AI模型的热门工具,获得了Y Combinator孵化器的支持。

埃德里西安在帖子中回顾了创业历程:"当我们起步时,Xcode还没有AI功能。构建'Xcode版Cursor'听起来很疯狂,但我们还是做到了。随着时间推移,我们打造了iOS和MacOS应用开发领域最优秀的编程代理。"

 

这次收购的时机颇具讽刺意味。苹果今年早些时候更新了Xcode,让用户可以直接调用ChatGPT和其他AI模型,无需依赖外部工具。这一变化可能影响了Alex的市场定位,但埃德里西安并未明确提及这是否为团队加入OpenAI的原因。

Alex在其博客中表示,公司将继续为现有用户提供支持,但应用将于10月1日后停止下载。团队承诺不会为工具添加新功能,但会在现有用户持续使用期间维护产品。

根据Y Combinator的资料,Alex团队共有三人参与这一编程工具的开发。目前尚不清楚是否所有员工都将加入OpenAI。

这种"人才收购"模式在科技行业日益普遍。公司通过收购团队而非整个企业来快速获得特定技术能力和人才。OpenAI在这方面也有先例,本周早些时候刚宣布以11亿美元收购产品测试初创公司Statsig。

对于Alex而言,这一结果反映了初创公司面临的典型挑战:当大型科技公司开始提供类似功能时,专注于特定工具的小公司往往面临生存压力。苹果将AI功能直接集成到Xcode中,实际上削弱了Alex等第三方工具的价值主张。

从更广泛的行业角度看,这一收购体现了AI编程工具市场的快速整合。随着各大科技公司加速布局AI开发工具,拥有专业技术的小团队成为宝贵的收购目标。

对于开发者社区而言,Alex团队加入OpenAI可能意味着更强大的AI编程工具将在未来问世,特别是在移动应用开发领域。不过,这也意味着独立开发工具的选择可能会减少,市场进一步向大型科技公司集中。