对话ChatGPT丨关于「AI安全」的10个问与答

最近，两个人工智能系统成为网友热议焦点

一个是冷酷无情的“幕后主角”MOSS

一个是多才多艺的“全能网友”ChatGPT

后者一经亮相，就成为了AI界“顶流”

月活跃用户估计已达1亿

成为历史上增长最快的消费者应用

围绕ChatGPT的讨论，可谓“铺天盖地”

今天，瑞莱智慧RealAI的首席卖萌官瑞哥

就带着好奇与这位“AI话术高手”聊了聊……

瑞哥

我们的确是一家人工智能科技公司，不过准确来说，RealAI的目标可不仅是解决人们生活问题，而是以安全、可信、可靠的第三代人工智能技术，为高价值场景智能化升级提供一站式赋能方案，最终成为安全、可靠、可控的人工智能基础设施领航者。

瑞哥

RealAI首席科学家张钹院士认为，机器人统治人类的担忧，最多只能算“远虑”，但当前人工智能存在很多“近忧”：基于大数据的深度学习算法具有不透明、不可控和不可靠等缺陷，可能给人类社会带来严重的后果。

瑞哥

实际上，人工智能不仅存在ChatGPT所说的隐私泄露等衍生安全风险，还存在内生安全风险。如今，发展安全的人工智能已是当务之急。作为人工智能研究者，我们把精力集中在发展以人类安全为核心的安全人工智能。

瑞哥

没错，RealAI团队就曾做过一次研究，通过特殊制作的对抗样本“纸眼镜”，攻破了数十部商用手机的人脸识别系统。RealAI目前仍在不断探索“攻”与“防”，持续提升人工智能的安全性。RealAI的AI安全防火墙RealGuard能够有效防范物理世界对抗样本攻击、伪造视频攻击等新型安全风险，提升人证核验、刷脸通行、人脸解锁等应用场景的安全性。

瑞哥

“深度伪造”，这个词特指深度合成技术的不良应用。近年来，深度合成技术备受关注，在影视、传媒、教育等领域大显身手。但恶意使用该技术生成的音视频也显现出了前所未有的破坏力，犯罪分子利用它合成视频、音频侵害人身安全、财产安全、国家安全的案例屡见不鲜。为此，RealAI推出了AI界“打假神器”——深度伪造内容检测平台DeepReal。

瑞哥

“第三代人工智能”概念由张钹院士提出，希望通过融合第一代知识驱动和第二代数据驱动的人工智能，综合利用知识、数据、算法和算力四个要素，建立新的可解释和鲁棒的AI理论与方法，发展安全、可信、可靠和可扩展的人工智能技术。

瑞哥

ChatGPT生成的质量很高，这点毋庸置疑。但如它所言，这其实是“举一千反一”的过程，和人类能够“举一反三”不同，可以说它是“大力出奇迹”。而当前的人工智能还没有进入智能的核心问题，如知识表示、不确定性推理等。因为人类智慧的源泉在知识、经验、推理能力，这是人类理性的根本。可以说，目前的人工智能系统都非常脆弱，很容易受攻击或欺骗，需要大量数据而且不可解释，这种缺陷是本质的，由其方法本身引起的。

瑞哥

人工智能是一项渗透性、实用性极强的通用目的技术。和所有通用目的技术一样，从它诞生的那一刻起，创造技术的力量和控制技术的力量，就存在不对等。作为人工智能的研究者和从业者，我们并不悲观，而是立志从基础科研下功夫，专注于底层技术研究，以实现人工智能产业的高质量发展。

瑞哥

很自豪地告诉大家，ChatGPT所言的7点建议，RealAI自2018年成立以来，就在持续地探索与实践，从数据可用、算法可靠、应用可控等关键处精准落子，深度布局，且已取得丰硕成果。此外，RealAI还与多家政产学研单位，在标准制定、人才培训等方面展开了深度合作。

瑞哥

“智能向善”是RealAI的使命，我们认为：“人类社会的未来必将高度智能化，从人类在宇宙中到达的每一片物理空间，到创造的持续膨胀的数字空间，人工智能会伴随人类无处不在。在走向这一目标的过程中，一方面需要确保人工智能的能力不断增强，能够适用于各类复杂的场景和任务，另一方面需要确保人工智能的应用受到管控，真正使人类作为整体的利益得到提升。瑞莱智慧的使命就是要促使人工智能不断向着“善”的方向进化，最终通过完善的人工智能为每个人带来更幸福的生活。”

近些天来，ChatGPT的讨论不绝于耳

有人说：AI成精了，我要失业了。

也有人说：大模型就是地心说，靠参数多修修补补，但不是本质。

关于聊天机器人的种种问题

RealAI人工智能治理研究院的专家

此前从多个角度进行了深入剖析

点击下方图片↓即可阅读，一起复习一下吧~

更多精彩