10分钟内被骗走了430万元！而且受害人丝毫没有意识到对方不是真人......
作为引领第四次科技革命的战略性技术，人工智能给社会建设和经济发展带来了重大而深远的影响，但技术滥用问题也给个人信息安全和社会公共治理带来严峻挑战。
今年，利用AI诈骗的案件高发，典型案例就是近期内蒙古包头的一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。
4月20日中午，郭先生的“好友”突然通过微信视频联系他，声称自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话，才知道被骗。
郭先生回忆经过，他的视频对象从头到尾都没有提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去。视频中的面孔和声音与好友一模一样。
而浙江温州也曾发生过一起相似案例。有人被“好友”诈骗了近5万元。经警方核实，诈骗分子利用被害人好友在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，再通过视频聊天的假象骗取其信任再实施诈骗。
由此可知，AI带来的信息安全问题已经显现。
在信息领域，任何代码、算法、开发框架乃至工程实现的软件系统，毫无例外都会存在一定程度的信息安全问题。代码量越大，系统越复杂，往往暴露出的安全问题越多。人工智能技术在个人信息领域的应用，打破了个人信息保护与利用的平衡，用户对个人信息的采集范围、类别、信息处理方式等难以掌控。
由于人工智能领域的专家往往不具备信息安全专业知识，所以在这项技术的发展过程中，他们专注于实现机器模拟、延伸和扩展人的智能这些核心目标，安全问题往往被当作次要因素加以忽略。
事实上，安全界已经暴露出人工智能技术自身存在的一些安全漏洞，包括开发框架稳定性、算法设计缺陷、代码自身漏洞等方面。以代码漏洞为例，根据公开报道，国内外安全技术团队曾发现数十个深度学习的软件漏洞，其类型包括内存访问越界、空指针引用、整数溢出、除零异常等常见类型。人工智能技术自身的安全性和健壮性问题会导致人工智能系统出现错误甚至崩溃，或被攻击者利用进行破坏、侵入乃至劫持系统。
人工智能技术本身算法的准确率高度依赖于海量用户数据的训练分析，尤其需要获取大量用户个人信息，以便提供个性化、定制化服务，这些都会导致用户个人信息泄露。目前，我们的隐私和个人数据，在大数据和人工智能收集、处理和分析技术面前基本上处于裸奔的状态。
不过，正如硬币拥有正反面，人工智能也同样有利于网络安全的发展。
人工智能可以大幅提升网络钓鱼和垃圾邮件检测效率。它能够深度学习使用大量数据来训练深度神经网络以及学习如何对图像进行分类或完成其他任务。即使对于特征不明显的攻击操作，深度学习模型也能获得良好的准确率。
人工智能还能够大幅提高检测响应的速度。从目前的技术来看，人工智能与网络安全相结合是实时检测和应对威胁的一种方式。人工智能会检查整个系统是否存在风险。与人类智能不同的是，网络领域的人工智能能对威胁的响应速度极快，从而能更快、更准确的安全警报，使网络安全专家的工作更有效率。例如微软发布的Microsoft Secure Copilot，就是一款AI+安全的产品。该产品使用LLM（大语言模型）模型去理解微软海量网络安全模型资源，可以做到受到攻击时实时分析出进攻路线并附上讲解图与多种解决方案，只需网安技术人员通过简单的标注、点击就可完成安全事件调查及反应。将过去需要几个甚至几十个小时才可以解决的勒索病毒事件分析相应缩短至几秒内。
总的来看，AI技术对信息安全来说，既是机遇、也是挑战。给安全行业带来更多挑战的同时也可赋能于安全行业。
