曾写出毁灭人类计划书，爆火的ChatGPT是一把“双刃剑”

曾写出毁灭人类计划书，爆火的ChatGPT是一把“双刃剑”

【文/观察者网 吕栋】

这两天，美国公司OpenAI推出的ChatGPT成为绝对的市场焦点。

凭借聊天、咨询、翻译甚至写研报等类人的智能化表现，ChatGPT注册用户很快破亿，大有引领新一轮AI浪潮之势，微软、亚马逊、谷歌等科技巨头纷纷重金布局相关赛道。

在ChatGPT引爆AIGC（AI生成内容）概念后，A股也开始有大量科技公司披露相关业务，试图借机蹭一波热点，拉抬一下股价。

四维图新披露，该公司参股公司普强利用类似ChatGPT的模型、算法和训练的技术，结合现有的模型算法以及车载相关的海量数据，支持了头部车企的人机交互服务。

凡拓数创透露，该公司开发和提供的数智虚拟人、云虚拟展馆等产品与AI技术紧密联系，应用了ChatGPT、国内AI平台等相关技术。

蓝色光标表示，该公司正在积极试用ChatGPT技术，自有虚拟人苏小妹已经介入了AI多轮对话，AI作诗能力已经进入技术测试阶段，未来会结合AIGC和终端交互做更多数字化拓展。

首都在线表示，该公司自主研发的新一代算力平台可为ChatGTP类人工智能应用提供算力、算法、云渲染等技术服务，目前已为国内多家涉及人工智能类客户提供服务......

不可否认，以ChatGPT为代表的新型AI技术的确具有产业赋能的潜在价值。但随着AI技术进入新的发展阶段，带来的各种安全隐患也将更甚。

曾写出“毁灭人类计划书”

根据国内外媒体报道，ChatGPT最初的爆火源于它在一位工程师诱导下，写出了毁灭人类的计划书，步骤甚至详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等，甚至还给出了相应的Python代码。

ChatGPT聊天对话截图

这并不是耸人听闻。在ChatGPT推出几周后，全球已有多家网络安全公司发布一系列报告，证明该机器人可能被用于编写恶意软件。

截至目前，美国威胁情报公司Recorded Future在暗网中已发现1500多条关于使用ChatGPT开发恶意软件、创建概念验证代码的参考资料，其中大部分代码都公开可用。

Recorded Future认为，ChatGPT对于“脚本小子、黑客行动主义者、欺诈分子/垃圾邮件发送者、支付卡欺骗者等技术水平不高的网络犯罪分子”最有帮助，把恶意软件、钓鱼攻击推向了规模化时代。

目前，网络钓鱼即服务 （PhaaS） 和勒索软件即服务（RaaS）可以向攻击者提供收费工具包，使其可以轻松实施攻击。而现在ChatGPT则使网络犯罪活动正经历另一种演变：利用ChatGPT面向公众免费开放的服务，更多危险正在萌芽，这加剧了对于未来安全风险的忧虑。

在此背景下，ChatGPT背后的OpenAI日前公开发声警告称，现在需要监管机构进行介入，以防止ChatGPT等生成式AI系统对社会产生潜在负面影响。

“我们没有预料到把‘孩子’送到这个世界上会带来这么大的反响。事实上，我们对此感到有些许不安。”OpenAI首席技术官Mira Murati在采访中坦言，人工智能可能被滥用，也可能被目的不纯之人利用。

作为OpenAI的创始人之一，埃隆·马斯克也曾警告过先进的AI对人类构成的威胁，去年12月，他称ChatGPT是“可怕的好东西”，并补充称“我们离危险的强大人工智能不远了。”

就在近日，国内数字安全公司三六零也发布了《全球人工智能安全治理报告》。

报告指出，作为一种数字技术，人工智能“双刃剑”特征明显，不仅自身存在数字安全威胁和隐患，随着人工智能工程化、场景化、平台化落地不断加快，人工智能安全需求已经超越单纯技术范畴。

据三六零透露，目前360AI安全实验室所开发的AI框架安全监测平台，已累计发现Tensorflow、Caffe、PyTorch等主流机器学习框架的漏洞200多个，其中提交给谷歌Tensorflow的漏洞数98个，包括24个高危、严重漏洞，在全球各大厂商中排名第一。

市场调研机构Research And Markets预测，2030年网络安全中人工智能产值将突破千亿美元，2020年至2030年将达到25.7%的年复合增长率。随着ChatGPT等AI技术产品的普及，AI安全市场将进一步爆发。

百度之后，三六零版ChatGPT也要来了？

虽然犀利地指出了人工智能发展带来的潜在安全隐患，但在ChatGPT概念持续爆火之下，拥有搜索引擎业务的三六零，也十分热衷于推出类似ChatGPT的产品。

2月7日，三六零在投资者互动平台透露，该公司计划尽快推出类ChatGPT技术的demo（试用）版产品。这让该公司成为国内继百度之后，又一个披露将推出类ChatGPT技术的公司。

此消息一出，ChatGPT概念再次被推向高点。三六零2月7日午后直线拉升涨停，2月8日该公司再次一字封板涨停，目前市值630亿元。

上证e互动截图

三六零在投资者互动平台上表示，AIGC中的类ChatGPT技术对搜索行业是具备颠覆性的革新能力的，也只有搜索引擎拥有足够大的数据源对类ChatGPT技术进行训练。这也是为什么目前ChatGPT的参与者是Google、Bing、百度这些搜索引擎的公司。

据三六零透露，目前360搜索是中国搜索引擎的Top 2，市场份额为35%。而根据第三方机构Statcounter GlobalStats的统计，2022年7月，在中国国内搜索引擎市场中，百度份额为70.48%，排名第一；搜狗搜索份额为12.25%；必应份额为10.06%；Google份额为3.00%；360搜索份额为1.94%；神马份额为1.54%；其他搜索引擎的份额合计为0.73%。

三六零表示，该公司在数据资源端有丰富的多模态大数据积累和相关语料、尤其是中文语料，相较于国外同行落后的是预训练大模型和有效的多模态数据清洗与融合技术，“公司有充足的资金储备可用于购买大规模算力，在继续深入自行研发的同时，不排除寻找强有力的合作伙伴，以开放的心态搭建多方共享平台、补足短板，快速缩小差距”。

但需要指出的是，即便单独讨论搜索引擎这一个应用场景，想把类似ChatGPT的技术落地，依然有较大难度。不少行业人士认为，目前ChatGPT还是一个对AI技术范式的探索，它并不能代替搜索。ChatGPT当下一个很大的弊端是无法实时获取互联网信息。由于它只是一个端到端的生成模型，能够自我构造虚假答案，这些都是它替代搜索的障碍。而如果以目前每一条几美分的成本来看，它会让商业搜索引擎公司入不敷出。

在此背景下，三六零也坦言，该公司人工智能研究院从2020年开始一直在包括类ChatGPT技术在内的AIGC技术上有持续性的投入，但截至目前仅作为内部业务自用的生产力工具使用，且投资规模及技术水平与当前的ChatGPT 3相比还有较大差距，各项技术指标只能做到略强于ChatGPT 2。由于训练数据源及应用方向的原因，在中文环境下的实际效果强于ChatGPT 2。

与大多数技术一样，ChatGPT本身确实是一把“双刃剑”。虽然越来越多的研究人员认为ChatGPT可能成为黑客的盟友，但这一可生成不良内容的工具，也可以用来帮助安全人员提高效率，提高恶意信息识别、抵御网络攻击的能力，这主要包括钓鱼检测、漏洞发现和安全事件响应。

“需要特别提到的是，AIGC技术除了在搜索引擎的应用之外，还可以辅助数字安全能力的提升。一旦AIGC大模型在数字安全领域预训练完成，就会如同ChatGPT 3给搜索引擎技术带来巨大的提升一样，给数字安全技术带来巨大的变革。”三六零表示。

今年春节过后，三六零披露了2022年的业绩预亏公告，这也是该公司自2012年上市以来首次出现亏损。

根据公告，三六零预计2022年实现营收94.9亿元，同比下滑约13%；实现归母净利润为-24.8亿元，同比由盈转亏；预计实现扣非后归母净利润-20.3亿元，上年盈利6.1亿元。

三六零提到，2022年该公司整体毛利率水平与上年同期基本持平，但由于互联网行业整体趋势下滑及该公司向数字安全行业持续加大投入，导致总营收下降的同时费用略有增加，且投资损益及公允价值变动损益大幅亏损，使得该公司营业利润与上年同期相比出现亏损。

本文系观察者网独家稿件，未经授权，不得转载。