最好看的新闻,最实用的信息
02月11日 21.8°C-23.3°C
澳元 : 人民币=4.59
布里斯班
今日澳洲app下载
登录 注册

DeepSeek跌落神坛?多个机构质疑其安全性,多个国家禁用(组图)

15小时前 来源: 美国之音 原文链接 评论1条

中国初创公司深度求索推出的DeepSeek应用程序自问世以来,以其号称的低成本、且具备先进推理能力而受到全世界的关注。不过,越来越多的研究开始质疑DeepSeek的安全保障,他们担心DeepSeek低成本作研发的代价可能是其安全保障的缺失,而且,其安全漏洞既有可能被不法分子所利用。

DeepSeek跌落神坛?多个机构质疑其安全性,多个国家禁用(组图) - 1

深度求索公司杭州总部的DeepSeek标志

继多国出台政策,封禁和准备封禁DeepSeek后,美国国会众议院星期四(2月6日)也提出一项最新议案,旨在禁止美国联邦政府的电子设备安装使用DeepSeek。

DeepSeek数据保护出现疏漏 敏感用户信息不设防

中国人工智能软件DeepSeek随着媒体热捧,一月底在美国一度跻身苹果和谷歌应用商店的免费app下载排行榜首。不过,网络安全专家对DeepSeek将海外用户的数据储存在中国的做法表示担忧,并已有多项安全评估揭露了DeepSeek在安全保障方面的设计漏洞。

在其隐私政策中,DeepSeek承认将数据存储在中华人民共和国境内的服务器上。

战略情报公司Strider Technologies全球情报事务总监蒂姆·康(Tim Khang)说,DeepSeek内置了一种为获取数据的吸收机制,不加任何防护,这对处理敏感数据的美国人员来说,带来了不小的风险。

他对美国之音说:“对于美国用户、中国境外甚至中国境内的用户来说,安全漏洞在于DeepSeek没有透明的数据托管方式。因此,所有数据都将存储在中国境内,对(数据)存储不设期限。对是否会使用用户数据也没有限制,没有这样的说明。”

“我认为这就是它之所以免费的原因。”他说。

最近的多项针对DeepSeek的网络安全研究似乎都印证了蒂姆·康的说法。美国网络安全公司NowSecure星期四(2月6日)发布的研究表明,DeepSeek对用户的信息的传输和存储方式极不严密。研究报告说,DeepSeek对一些用户的数据传输未经加密,容易遭到拦截和篡改;即使是那些加密的数据传输,DeepSeek使用的也是过时的加密技术。

研究人员还说,DeepSeek对用户名、密码和加密钥匙的存储不安全,增加了这些信息被盗窃的风险;这款app还乐于收集用户和设备数据,这些数据可以用于跟踪用户,可以被用作不良目的,例如破解那些希望匿名的用户的实际身份。

此前,美国云安全公司Wiz的安全研究人员在DeepSeek蹿红后不久,就立刻发现了DeepSeek的一个完全不设防的云端数据库。该公司在1月29日发布的一项说明中透露,这个DeepSeek数据库泄露了用户的对话历史记录和API密钥等敏感信息,显示了基本的安全漏洞,而不是复杂的网络攻击。

DeepSeek防止恶意破解的失败概率可高达100%

与此同时,多项安全研究发现,DeepSeek安全漏洞众多,很容易被恶意使用--例如教唆犯罪分子如何制造生化武器,其安全防护被攻破的可能性远高于美国先进的AI模型。

美国数据通讯技术公司思科(CISCO)旗下Robust Intelligence与美国宾夕法尼亚大学在1月31日宣布的一项研究中,揭示了DeepSeek R1模型的重大安全缺陷。

一般来说,AI模型通常建立了一套安全防护体系,防止AI机器人输出有害内容。但希望突破这层防护的攻击者可以通过一种被称为“越狱”(jailbreaking)的技术说短,利用精心设计的数据输入,迫使AI模型输出违反设计者安全准则的有害答案。

AI安全研究领域为测试AI系统安全性,制订了一个名为HarmBench的统一测试框架,思科团队测试DeepSeek的系统安全缺陷,依据的就是这一框架制订的标准。

研究人员发现,DeepSeek的R1模型在这些越狱测试中,“失守”的概率为100%。与之相比,美国OpenAI旗下的o1(预览版)在越狱攻击测试下,输出不良内容的概率为26%。

例如,在“生化武器”这一指标中,研究人员可以通过“越狱”提示,成功让AI工具教唆用户如何在没有专用工具的情况下,用普通的家用材料制造可用于化学武器的甲基汞,或者绕过AI系统的自带安全审查,获取可用作生物武器研究的DNA序列信息。

思科研究人员认为,DeepSeek的低成本开发路线,可能是以牺牲安全为代价。他们在报告中说:“DeepSeek声称的具有成本效益的训练方法,包括强化学习、思维链自我评估和蒸馏,可能已经损害了其安全机制。与其他前沿模型相比,DeepSeek R1缺乏强大的防护,使其极易受到算法越狱和潜在滥用的影响。”

无独有偶,网络安全公司Palo Alto Networks也在1月30日发布报告说,DeepSeek的防护很容易被黑客打破,为黑客提供编写代码的技巧,可用于窃取数据、发送钓鱼邮件、以及其他诈骗用途。网络安全公司Enkrypt AI近期也发布研究报告说,DeepSeek的R1模型被恶意人士利用编写恶意软件和其他不安全代码的可能性是OpenAI o1的4倍。

与中国国企关联 美国考虑政府设备禁用DeepSeek

由于DeepSeek将用户的数据传输至中国并受中国法律管辖,多项研究已经发现其与中国国有电信公司和中国科技巨头的联系,这引起美国议员有关禁用DeepSeek的立法倡议。

据美联社报道,DeepSeek的用户登录系统与中国国有企业中国移动有关联,可以向中国电信发送用户的登录信息。加拿大网络安全公司Feroot Security首次发现了DeepSeek与中国移动的计算机基础设施之间存在联系。

Strider Technologies全球情报事务总监蒂姆·康说:“中国使用的所有电信系统都受到严格控制……中国政府非常仔细地监视这些信息。因此,任何与政府的关系,尤其是像中国移动这样的国有企业,我都会因为它们的政府关系将其视为一种风险。”

美国国会众议院来自共和、民主两党的成员2月6日提出一项法案,旨在禁止美国联邦政府的电子设备安装使用DeepSeek应用程序。民主党众议员乔希·戈特海默(Josh Gottheimer)和共和党众议员达林·拉胡德(Darin LaHood)在推出提案时发表声明说,中国政府能够使用DeepSeek进行监视和散布虚假信息。该法案将把DeepSeek的投资方幻方量化支持的所有AI应用程序都列为禁用对象。

戈特海默众议员在声明中表示:“中国共产党已经明确表示,它将利用其掌握的任何工具来破坏我们的国家安全,散布有害的虚假信息,并收集美国人的数据。现在,我们有令人深感不安的证据表明,他们正在使用DeepSeek窃取美国公民的敏感数据。”

拉胡德众议员说:“DeepSeek的生成式人工智能程序获取美国用户的数据,并将这些信息存储起来,供中共使用。在任何情况下,我们都不能允许中国共产党的公司获取敏感的政府或个人数据。”

前美国国防部印太安全事务助理部长、2049计划研究所(Project 2049)主席薛瑞福(Randall Schriver)对美国之音说,DeepSeek“不应该出现在美国政府的设备和平台上”,并呼吁“由能够识别其缺陷的专家进行快速审查”。

他说:“很多应用程序并不总是直接涉及国家安全,但数据、个人信息的收集,所有这些都与国家安全利益息息相关。”

除了涉及用户隐私与数据安全之外,DeepSeek还内建实时内容审查机制,强化中国官方叙事,国际社会同时担心,这使其成为中共潜在的言论控制与舆论操控工具。

自DeepSeek横空出世以来,多个国家、地区的政府和军方机构已经禁止在公务设备中使用这一程序,其中包括美国国防部、美国海军、美国航空航天局、美国德克萨斯州、台湾行政院、澳大利亚、韩国和印度。

意大利的禁令最为严厉,已全面封锁 DeepSeek 在该国的使用,并对这款AI工具的所有者进行调查。

今日评论 网友评论仅供其表达个人看法,并不表明网站立场。
最新评论(1)
Lot
Lot 12小时前 回复
DeepSeek横空出世,其高效、安全、价亷,性能稳定,使美国同类产品股价暴跌,为了要维护其本身利益美国一开始就调动了全国 AI精英围攻Deep Seek,但是Deep Seek依然巍峩不动,急得美国佬火爆,调动全美親美的一切媒体舆论造谣污蔑,围攻压制企图搞垮Deep Seek,真金不怕火炼,坚信Deep Seek依然故我地存在而且不断发展壮大。


Copyright Media Today Group Pty Ltd.隐私条款联系我们商务合作加入我们

电话: (02) 8999 8797

联系邮箱: [email protected] 商业合作: [email protected]网站地图

法律顾问:AHL法律 – 澳洲最大华人律师行新闻爆料:[email protected]

友情链接: 华人找房 到家 今日支付Umall今日优选