2023 IDC中国数字金融论坛现场

在分享开始前，刘荔园首先向论坛嘉宾抛出了一个问题：“究竟是哪些人最先将生成式人工智能技术运用得炉火纯青？”答案是：黑产。

科技被掌控然后释放的瞬间，邪恶亦随之而来。就如同古希腊神话中的普罗米修斯，他帮人类盗来了天火，让人类从此吃上了熟食、夜里有了光明；但当火失控，就会带来灾难，将村庄、森林烧成灰烬。

而AI，正是智能时代的“火”。人类发明使用AI，与普罗米修斯盗取天火、奥本海默领导研制原子弹一样，没有回头路可走，只能去面对更加严峻的攻防态势。

她指出，AI诈骗已经相当成熟，危害性也大大被市场低估。AI诈骗的规模和严重性在大幅提升，给金融行业带来巨大的安全挑战。目前，AI诈骗的技术能力升级迭代非常快，和国外情况对比来看，国内AI诈骗所处发展阶段很可能正位于爆发前夕的时间窗口。

除此之外，大模型自身还存在算法、数据等安全风险。以算法风险为例，大模型还无法抵抗提示注入、对抗样本等攻击，可靠性低。同时，它还存在隐私泄露、偏见歧视、伦理偏见等数据方面的问题。

瑞莱智慧RealAI联合创始人刘荔园

“必须指出的是，AI的安全问题是产业级问题，而非应用级问题。”刘荔园强调，在原有应用上修修补补并不解决本质问题，黑产的迭代速度非常之快，因此只能靠AI打败AI，用魔法打败魔法。

针对生成式人工智能的滥用、恶意应用等风险，瑞莱智慧可为金融行业提供针对AI算法及数据的全生命周期服务，提炼出“查、打、防”人工智能三位一体解决方案。查，即在核心交易环节的前期对客户线上环境进行安全排查，以客户为中心对其账号、设备、IP、手机号等多维度进行异常检测，提前预警。打，即在核心交易环节对客户进行身份核验时实时检测人脸照片、视频流、语音等生物语料是否存在伪造、合成等情况，实时对抗。防，即通过对AI算法、AI应用系统漏洞扫描方式，发现AI系统自身存在的安全漏洞，提前采取AI安全加固措施，防止系统带病上线。

刘荔园认为，当前我们正处于人工智能的“奥本海默时刻”，针对日新月异的AIGC，我们必须让发展与治理同步并进，让AIGC这把“双刃剑”真正为金融行业注智赋能，发挥更大价值。