其他
对话ChatGPT丨关于「AI安全」的10个问与答
最近，两个人工智能系统成为网友热议焦点一个是冷酷无情的“幕后主角”MOSS一个是多才多艺的“全能网友”ChatGPT后者一经亮相，就成为了AI界“顶流”月活跃用户估计已达1亿成为历史上增长最快的消费者应用围绕ChatGPT的讨论，可谓“铺天盖地”今天，瑞莱智慧RealAI的首席卖萌官瑞哥就带着好奇与这位“AI话术高手”聊了聊……瑞哥我们的确是一家人工智能科技公司，不过准确来说，RealAI的目标可不仅是解决人们生活问题，而是以安全、可信、可靠的第三代人工智能技术，为高价值场景智能化升级提供一站式赋能方案，最终成为安全、可靠、可控的人工智能基础设施领航者。瑞哥RealAI首席科学家张钹院士认为，机器人统治人类的担忧，最多只能算“远虑”，但当前人工智能存在很多“近忧”：基于大数据的深度学习算法具有不透明、不可控和不可靠等缺陷，可能给人类社会带来严重的后果。瑞哥实际上，人工智能不仅存在ChatGPT所说的隐私泄露等衍生安全风险，还存在内生安全风险。如今，发展安全的人工智能已是当务之急。作为人工智能研究者，我们把精力集中在发展以人类安全为核心的安全人工智能。瑞哥没错，RealAI团队就曾做过一次研究，通过特殊制作的对抗样本“纸眼镜”，攻破了数十部商用手机的人脸识别系统。RealAI目前仍在不断探索“攻”与“防”，持续提升人工智能的安全性。RealAI的AI安全防火墙RealGuard能够有效防范物理世界对抗样本攻击、伪造视频攻击等新型安全风险，提升人证核验、刷脸通行、人脸解锁等应用场景的安全性。瑞哥“深度伪造”，这个词特指深度合成技术的不良应用。近年来，深度合成技术备受关注，在影视、传媒、教育等领域大显身手。但恶意使用该技术生成的音视频也显现出了前所未有的破坏力，犯罪分子利用它合成视频、音频侵害人身安全、财产安全、国家安全的案例屡见不鲜。为此，RealAI推出了AI界“打假神器”——深度伪造内容检测平台DeepReal。瑞哥“第三代人工智能”概念由张钹院士提出，希望通过融合第一代知识驱动和第二代数据驱动的人工智能，综合利用知识、数据、算法和算力四个要素，建立新的可解释和鲁棒的AI理论与方法，发展安全、可信、可靠和可扩展的人工智能技术。瑞哥ChatGPT生成的质量很高，这点毋庸置疑。但如它所言，这其实是“举一千反一”的过程，和人类能够“举一反三”不同，可以说它是“大力出奇迹”。而当前的人工智能还没有进入智能的核心问题，如知识表示、不确定性推理等。因为人类智慧的源泉在知识、经验、推理能力，这是人类理性的根本。可以说，目前的人工智能系统都非常脆弱，很容易受攻击或欺骗，需要大量数据而且不可解释，这种缺陷是本质的，由其方法本身引起的。瑞哥人工智能是一项渗透性、实用性极强的通用目的技术。和所有通用目的技术一样，从它诞生的那一刻起，创造技术的力量和控制技术的力量，就存在不对等。作为人工智能的研究者和从业者，我们并不悲观，而是立志从基础科研下功夫，专注于底层技术研究，以实现人工智能产业的高质量发展。瑞哥很自豪地告诉大家，ChatGPT所言的7点建议，RealAI自2018年成立以来，就在持续地探索与实践，从数据可用、算法可靠、应用可控等关键处精准落子，深度布局，且已取得丰硕成果。此外，RealAI还与多家政产学研单位，在标准制定、人才培训等方面展开了深度合作。瑞哥“智能向善”是RealAI的使命，我们认为：“人类社会的未来必将高度智能化，从人类在宇宙中到达的每一片物理空间，到创造的持续膨胀的数字空间，人工智能会伴随人类无处不在。在走向这一目标的过程中，一方面需要确保人工智能的能力不断增强，能够适用于各类复杂的场景和任务，另一方面需要确保人工智能的应用受到管控，真正使人类作为整体的利益得到提升。瑞莱智慧的使命就是要促使人工智能不断向着“善”的方向进化，最终通过完善的人工智能为每个人带来更幸福的生活。”近些天来，ChatGPT的讨论不绝于耳有人说：AI成精了，我要失业了。也有人说：大模型就是地心说，靠参数多修修补补，但不是本质。关于聊天机器人的种种问题RealAI人工智能治理研究院的专家此前从多个角度进行了深入剖析点击下方图片↓即可阅读，一起复习一下吧~更多精彩