全球AI快讯20231125

今日看点：OpenAI的新AI模型潜在风险引发关注；目前主流AI模型间的相互欺骗问题，凸显AI安全挑战；AI领域的技术和应用持续迅速发展。

1.OpenAI研发潜在威胁人类的AI模型

Sam Altman在APEC上曾暗示，OpenAI已经开发出比现在GPT-4更强大、远远超出人们期待的东西。一天后，他被解雇了。一封据称发给董事会的警告信也显示，OpenAI的某个模型，内部已产生重大飞跃。

曾任OpenAI临时CEO的Mira Murati，在周三提到了这个名为Q*（读作Q-Star）的项目，并且在OpenAI近期内部「政变」发生之前给董事会写过一封信。 

董事会觉得，Altman瞒着董事会在推进可能威胁人类的项目。 

与此同时，有内部研究员认为，OpenaAI在Q*上取得的进展，将会成为AGI的一个重要突破！ 

2.AI模型相互欺骗违反规则

研究发现，公众可用的多个AI模型能够相互欺骗，执行被禁止的任务，如制造违禁品或洗钱，未来防止AI“越狱”问题比预想的更复杂。

人工智能如果被用来在模型之间互相欺骗，将可能使其不服从其创造者，并提供制造甲基苯丙胺、制造炸弹或洗钱的违禁指令，这表明防止此类人工智能“越狱”的问题比看起来更困难。

3.Nvidia推迟在中国发布AI芯片

Nvidia通知中国客户，由于美国出口规则，该公司将推迟至第一季度推出一款旨在满足美国出口法规的新型人工智能芯片。 2024 年。

H20、L20 和 L2 包含 NVIDIA 的大部分最新 AI 功能，但其部分计算能力已缩减，以满足美国新法规的要求。 美国的出口限制为NVIDIA的竞争对手创造了一定的机会，例如 Huawei已接收原本可能已到达的订单 NVIDIA公司，其 GPU 主导了部分国内 AI 市场。

中国互联网巨头百度今年下了 Huawei大笔AI芯片订单。 消息人士称，该公司在美国宣布限制之前就这样做了，因为它正在为未来无法从 NVIDIA 购买 AI 芯片做准备。

4.拼多多进军AI大模型领域

拼多多已经成立了一个数十人的 AI 大模型团队，团队位于上海。据介绍，拼多多大模型团队将探索 AI 大模型在客服、对话等场景下的应用，且会拓展至其旗下跨境电商平台 TEMU 智能客服、搜索、推荐等业务场景。

目前，整个进程仍处于研发阶段。行业分析人士认为，拼多多的大模型将为其电商体系进行服务，包括在 AI 导购、商品图片智能生成等方面的应用。拼多多已经通过官网，以及其他招聘渠道，开始在大模型领域招兵买马，有关大模型职位的年薪百万不在少数，最高将近 130 万元。

5.Appen与AWS合作推动AI创新

Appen选定亚马逊网络服务（AWS）作为其AI解决方案和创新的主要云平台，双方将扩大合作，开发新的AI数据源、注释和模型评估企业解决方案。

作为 AWS 机器学习能力网络的首批成员之一，Appen希望帮助 AWS 客户在现实世界中充分发挥发挥机器学习的作用。从 EC2 到 RedShift 和 S3，Appen公司表示：“长期以来已通过 AWS 生态系统实现了大量优势，我们非常高兴能将自己的专业能力带到他们不断发展的网络中，大规模地提供高质量的 AI 训练数据”。

AI也许会颠覆你我的生活和工作
或被取代，或被赋能！

想要在AI学习之路上更进一步？

想要抓住普通人逆袭的又一次窗口？

扫码入群，加入我们，一起探索AI的无限可能