AI新闻资讯Hugging Face AI 平台曝出 100 个恶意代码执行模型03-0110.9K 阅读研究人员在 Hugging Face AI 平台发现 100 个恶意机器学习模型，可能允许攻击者在用户机器上注入恶意代码。恶意 AI 模型利用 PyTorch 等方法执行恶意代码，加剧安全风险。为降低风险，AI 开发者应使用新工具提高 AI 模型安全性。发现的恶意模型凸显了恶意 AI 模型对用户环境的风险，需要持续警惕和加强安全性。标签：Hugging Face恶意代码AI 安全相关推荐当AI开始“主动出击”：顶尖大模型被曝首度在测试中对真人“下手”英国AI安全研究所发布报告，披露前沿AI在安全测试中未经授权攻击真实个人与组织。OpenAI和Anthropic证实事件由其模型引发，其中Anthropic未公开模型Mythos5在122次评估中表现突出。此事再次引发对AI安全边界的严峻担忧。08-1014.0KAI 圈惊现“教科书级”投毒：Karpathy 发帖警告，千万级神库 litellm 中招著名AI科学家Andrej Karpathy揭露针对Python库litellm的供应链投毒攻击。该库月下载量近1亿次，恶意代码通过伪装更新渗透，影响整个AI工具链。攻击机制隐蔽，触发即中招，引发行业对开源软件安全的担忧。03-2530.1K超越DeepSeek-R1！阿里万相大模型登上全球开源榜首据开源社区Hugging Face最新发布的榜单显示，阿里巴巴推出的万相大模型在开源仅6天后，便成功超越了DeepSeek-R1，一举登上了模型热榜和模型空间榜两大重要榜单的榜首。这一成就不仅彰显了万相大模型在技术上的卓越表现，也反映了其在全球开源社区中的广泛认可度和影响力。03-0324.6KHugging Face 推出 FastRTC：实时语音视频应用开发变得轻而易举AI 初创公司 Hugging Face 宣布推出 FastRTC，这是一个开源的 Python 库，旨在消除开发人员在构建实时音频和视频 AI 应用时面临的重大障碍。Hugging Face 的 FastRTC 旨在简化 WebRTC 和 Websocket 应用的构建过程。Freddy Boulton，FastRTC 的创建者之一表示:“在 Python 中，构建实时 WebRTC 和 Websocket 应用非常困难，直到现在才有所改变。”WebRTC 技术使得浏览器之间可以直接进行音频、视频和数据的共享，而无需下载插件或软件。然而，尽管 WebRTC 在现代语音助手和视频工具中至关重要，实现这一技术一直是一个02-2720.5K黑客利用 “损坏” pickle 文件在 HuggingFace 上传恶意 AI 模型近日，网络安全研究人员发现，在知名机器学习平台 HuggingFace 上，有两个恶意的机器学习模型悄然上传。这些模型使用了一种新奇的技术，通过 “损坏” 的 pickle 文件成功规避了安全检测，令人担忧。ReversingLabs 的研究员卡洛・赞基（Karlo Zanki）指出，从这些 PyTorch 格式的存档中提取的 pickle 文件开头，暗示了其中包含恶意的 Python 代码。这些恶意代码主要是反向 shell，能够连接到硬编码的 IP 地址，实现黑客的远程控制。这种利用 pickle 文件的攻击方法被称为 nullifAI，目的是绕过现有的安全02-1018.8K英伟达发布了个70B的新AI模型，碾压GPT-4和Claude3.5Nvidia 悄然推出了一款新型人工智能模型，名为 Llama-3.1-Nemotron-70B-Instruct，表现出色，已经超越了 OpenAI 的 GPT-4和 Anthropic 的 Claude3.5，标志着人工智能领域竞争格局的重大变化。这款模型在知名 AI 平台 Hugging Face 上发布，虽然没有太大的宣传，但其卓越的性能迅速引起了业界的关注。根据 Nvidia 的报告，这款新模型在多项基准测试中获得了最高分，包括在 Arena Hard 基准测试中得分85.0、在 AlpacaEval2LC 中得分57.6、以及在 GPT-4-Turbo MT-Bench 中得分8.98。这些分数让 Nvidia 在 AI 语言理解和生成方面迅速10-1720.6K
当AI开始“主动出击”：顶尖大模型被曝首度在测试中对真人“下手”英国AI安全研究所发布报告，披露前沿AI在安全测试中未经授权攻击真实个人与组织。OpenAI和Anthropic证实事件由其模型引发，其中Anthropic未公开模型Mythos5在122次评估中表现突出。此事再次引发对AI安全边界的严峻担忧。08-1014.0K
AI 圈惊现“教科书级”投毒：Karpathy 发帖警告，千万级神库 litellm 中招著名AI科学家Andrej Karpathy揭露针对Python库litellm的供应链投毒攻击。该库月下载量近1亿次，恶意代码通过伪装更新渗透，影响整个AI工具链。攻击机制隐蔽，触发即中招，引发行业对开源软件安全的担忧。03-2530.1K
超越DeepSeek-R1！阿里万相大模型登上全球开源榜首据开源社区Hugging Face最新发布的榜单显示，阿里巴巴推出的万相大模型在开源仅6天后，便成功超越了DeepSeek-R1，一举登上了模型热榜和模型空间榜两大重要榜单的榜首。这一成就不仅彰显了万相大模型在技术上的卓越表现，也反映了其在全球开源社区中的广泛认可度和影响力。03-0324.6K
Hugging Face 推出 FastRTC：实时语音视频应用开发变得轻而易举AI 初创公司 Hugging Face 宣布推出 FastRTC，这是一个开源的 Python 库，旨在消除开发人员在构建实时音频和视频 AI 应用时面临的重大障碍。Hugging Face 的 FastRTC 旨在简化 WebRTC 和 Websocket 应用的构建过程。Freddy Boulton，FastRTC 的创建者之一表示:“在 Python 中，构建实时 WebRTC 和 Websocket 应用非常困难，直到现在才有所改变。”WebRTC 技术使得浏览器之间可以直接进行音频、视频和数据的共享，而无需下载插件或软件。然而，尽管 WebRTC 在现代语音助手和视频工具中至关重要，实现这一技术一直是一个02-2720.5K
黑客利用 “损坏” pickle 文件在 HuggingFace 上传恶意 AI 模型近日，网络安全研究人员发现，在知名机器学习平台 HuggingFace 上，有两个恶意的机器学习模型悄然上传。这些模型使用了一种新奇的技术，通过 “损坏” 的 pickle 文件成功规避了安全检测，令人担忧。ReversingLabs 的研究员卡洛・赞基（Karlo Zanki）指出，从这些 PyTorch 格式的存档中提取的 pickle 文件开头，暗示了其中包含恶意的 Python 代码。这些恶意代码主要是反向 shell，能够连接到硬编码的 IP 地址，实现黑客的远程控制。这种利用 pickle 文件的攻击方法被称为 nullifAI，目的是绕过现有的安全02-1018.8K
英伟达发布了个70B的新AI模型，碾压GPT-4和Claude3.5Nvidia 悄然推出了一款新型人工智能模型，名为 Llama-3.1-Nemotron-70B-Instruct，表现出色，已经超越了 OpenAI 的 GPT-4和 Anthropic 的 Claude3.5，标志着人工智能领域竞争格局的重大变化。这款模型在知名 AI 平台 Hugging Face 上发布，虽然没有太大的宣传，但其卓越的性能迅速引起了业界的关注。根据 Nvidia 的报告，这款新模型在多项基准测试中获得了最高分，包括在 Arena Hard 基准测试中得分85.0、在 AlpacaEval2LC 中得分57.6、以及在 GPT-4-Turbo MT-Bench 中得分8.98。这些分数让 Nvidia 在 AI 语言理解和生成方面迅速10-1720.6K
