大模型时期的AI如何确保安全向善？

7月7日下午，2023天下人工智能大会（WAIC）“聚焦·大模型时期AIGC新浪潮—可信AI”论坛在上海世博中央红厅举行。
中国信通院、上海人工智能实验室、武汉大学、蚂蚁集团等多家单位共同发起《AIGC可信倡议》，得到数十家单位参与，与会专家环绕人工智能可能引发的经济、安全、隐私和数据管理等问题，提出构建AIGC可信发展的环球管理互助框架，采取安全可信的数据资源、技能框架、打算方法和软件平台等，全面提升AIGC可信工程化能力，最大限度确保天生式AI的安全、透明、可释。

AIGC安全成为当古人工智能研究发展的主要议题。
中国科学院院士何积丰揭橥《可信人工智能展望》主题演讲时认为，“不能再将人工智能视为大略的技能事情，而是成为全体组织的变革引擎。
可信人工智能要致力于保障数据安全可信、系统行为可追责、算法模型可阐明、网络环境可信、法律伦理可信等问题。
”

图像是信息的紧张载体之一，利用AI进行图像造假的行为，是AI可信化发展须要应对的重点问题。
论坛上，合合信息带来的AI图像内容安全技能方案引起关注。
该方案可精准定位截图修改痕迹，对天生式图片进行智能判别，防止不法分子利用技能手段造孽爬取图片上的信息。

合合信息智能创新奇迹部总经理唐琪先容，去年的天下人工智能大会上，合合信息首次展示了“PS修改检测”技能，在识别证件、票据等各种主要商业材料中的PS痕迹方面具有了“火眼金睛”。
今年，AI图像修改检测“黑科技”持续优化升级，运用面也拓展至“截图修改检测”。
升级后的AI图像修改检测技能可检测包括转账记录、交易记录、谈天记录等多种截图，无论是从原图中“抠下”关键要素后移动“粘贴”至另一处的“复制移动”图片修改手段，还是“擦除”“重打印”等办法，图像修改检测技能均可“慧眼”识假。

合合信息AI图像修改检测技能运用效果展示

“重打印”修改图片检测示例：给定一张图片，输入到合合信息修改检测模型中，便能够判别这张图像是否被修改，并且定位出修改图像的修改区域。

论坛现场还发布了由中国信通院、清华大学、蚂蚁集团联合编撰的《可信AI技能和运用进展白皮书（2023）》。
该报告基于统一的可信AI认知维度，梳理总结可信AI发展现状，提炼了面向新阶段的大模型和AIGC引发的新需求，形成以技能为保障的可信AI评估体系和工具，探索新一代可信人工智能发展。