检查点说,俄罗斯黑客试图闯入chatgpt,以至于没有好处
喜欢指数的未来?加入我们的Xpotential社区,通过Xpotential University的课程进行未来的证明,阅读有关指数技术和趋势,连接,观看Keynote或浏览我的博客。
经过所有最近的数万亿诉讼和骚动之后,当像Getty Images and Co这样的公司发现他们的受版权保护的商业数据是由诸如稳定性的人工智能(AI)公司刮除的。而且,除非他们购买培训数据,否则他们可能最终会更多地使用公共开源数据集,以免在将来被起诉。
但是,尽管在过去的几年中,这听起来都不错,我们看到了越来越多的威胁参与者使用数据中毒技术来妥协那些相同的数据集,这意味着,对他们进行过的任何AI的任何AI也将被妥协,结果是否不正常,是否正常工作,将其编码为他们正在编写的程序中,不正常地对其进行分类,无论如何都会表现出任何奇怪的表现。
主题演讲Matthew Griffin的确定性未来
对于小型非关键AI,这可能很好,但是想象一下,如果这些利用损害了Chatgpt输出的准确性和完整性,这将发生什么 - 数亿人正在使用的输出来做数百万件事。这可能是有些人称之为世界末日或“ oppenheimer”的时刻。
毫无疑问,根据网络安全公司Check Point Software Technologies的说法,毫无疑问,各种威胁参与者都试图以各种方式妥协Openai的Chatgpt计划。
“在检查点研究中,我们可以看到俄罗斯人试图突破Chatgpt周围的地理区域限制,” Check Point的现场首席信息安全官Pete Nicoletti在周四在纽约市的客户和合作伙伴活动期间的一场记者聚会中说。
尼古拉蒂(Nicoletti)指的是对访问ChatGpt应用程序编程接口(API)的限制,该界面将阻止俄罗斯的入站请求。
检查点研究是一种威胁检测机构,可让人们关注新形式的恶意软件。Nicoletti尚未详细介绍检查点研究监测试图访问的系统的手段。
尼古拉蒂(Nicoletti)说,俄罗斯黑客对《代码》的探索仅反映了试图获得访问权的众多当事方之一。
“好演员和坏人将使用它,” Chatgpt的Nicoletti说。而且,我们已经看到不良演员将其用于编码恶意软件和勒索软件…
Chatgpt的情况并不像导致2017年Eternalblue威胁的情况,这是实验室泄露的代码的结果。取而代之的是,尼古拉蒂(Nicoletti)说,使用chatgpt是“许多不同政党对通常开放的平台的使用”,类似于研究社区中的许多AI模型架构用例。
尼古拉蒂(Nicoletti)指出,在雷迪特(Reddit)上,一项未遂的漏洞弹出了名为dan的弹出,这是“立即做任何事情”的缩写,该提示将使用聊天提示来操纵chatgpt进行制作文本,从而逃脱了Openai制作的护栏,以防止其产生一些文本,例如仇恨言论。
他说,尼古拉蒂说,不确定是否有任何零日的利用来出现在chatgpt中,但是当漏洞最终出现时,最有可能的攻击向量将是一种增强的网络钓鱼攻击形式。
“这将是对您的高度针对性的,因为他们已经有多种个人信息来源,他们从多个被黑客入侵的站点以及所有社交媒体帖子中汇总了有关您的信息,现在他们可以制作更具体的语言来使其与您和每个受害者相关,并与每个受害者相关,” Nicoletti说,将这种方法与“狭窄的铸造”服务进行了比较,以使攻击范围较高的攻击能力分配攻击攻击,以使攻击量很高。
在同一天,在Check Point的主题演讲中,创始人兼首席执行官吉尔(Gil)宣布2023年将是“ AI年”,并且该公司的产品将在整个阵容中越来越多地使用AI。

