泰国电子交易发展署闭幕AI治理周 举办国内首次'AI红队测试'活动

泰国电子交易发展署（ETDA）在AI治理周2026闭幕日举办"AI红队测试"活动，邀请银行、科技和网络安全部门参与，测试AI系统弱点，增强金融业信心。

2026年7月3日，电子交易发展署（ETDA）隶属于数字经济与社会部，由人工智能治理中心（AIGC）运作，联合国家电子和计算机技术中心（NECTEC）、银行业信息安全协调中心（TB-CERT）和国家网络安全委员会，在曼谷文华酒店举办"稳健与负责任AI红队测试"活动，作为AIGW 2026（AI治理周2026）最后一天的重要活动。

此次活动为政策制定者、监管机构、银行、科技部门及AI安全专家提供了一个平台，交流测试和提升AI系统安全性的方法，特别是在金融领域，该领域是涉及民众和国家经济的关键系统之一。活动包括知识交流，探讨AI系统的盲点，尤其是大型语言模型（LLM）在金融服务中的日益应用。

同时，还举办了2026年泰国银行业AI红队挑战赛，模拟测试AI系统以发现风险、弱点和漏洞，提升金融业AI安全水平，为国家级AI治理奠定现实基础。

ETDA主任差亚纳·米塔潘博士表示，如今AI不仅是提高工作效率的技术，还深入参与多个关键领域，如公共服务、数据分析、决策支持和金融服务，这些都涉及重要数据、公民权利和社会信任。因此，AI治理不能仅停留在政策、原则或书面指导层面，必须建立实际测试机制，确保开发的AI系统安全、可靠、公平并能有效应对潜在风险。

在过去的AIGW 2026周内，我们整合了AI治理的关键要素，包括国际AI监管方向交流、AI伦理影响评估、提升组织负责任使用AI的准备度，以及讨论法律、教育和关键领域AI应用。这表明AI治理不仅依赖单一机制，而是需要政策、标准、工具、人才发展和跨部门合作的结合。今天我们连接了AI治理的另一重要组成部分：主动测试AI系统，模拟风险场景，发现系统盲点、风险和漏洞，即"AI红队测试"。

AI的主要挑战之一是"盲点"，即组织在设计、开发或初步测试阶段可能未发现的系统缺陷。但当AI投入实际应用时，这些盲点可能对用户、组织和社会造成广泛影响，包括系统安全风险、网络安全、个人数据保护、结果公平性以及AI答案的准确性和可靠性。因此，AI红队测试成为关键机制，帮助组织通过模拟使用场景、测试系统行为并发现多维漏洞，在AI投入实际应用前评估风险，从而及时发现隐藏风险、及时改进系统，并持续提升AI的安全性、可靠性和责任感。

"稳健与负责任AI红队测试"作为AIGW 2026最后一天的活动，是ETDA与TB-CERT、NECTEC、国家网络安全委员会及政府和私营合作伙伴共同举办的又一关键机制，旨在切实提升AI安全测试水平。通过举办2026年泰国银行业AI红队挑战赛，首次在泰国模拟银行业AI系统测试，该行业正越来越多地采用AI和LLM。

人工智能在客户问答系统、金融产品和服务分析以及内部工作支持中的应用。该挑战赛旨在发现AI在多维度的风险，包括安全性、安保、隐私、公平性和可靠性，评估AI可能表现出的不安全行为、泄露不应公开的信息、产生不公正结果或提供不准确、不一致的信息，从而影响用户信心或整个金融系统。

挑战赛分为两个赛道：赛道A：银行业AI风险情报，侧重于从普通用户角度测试AI，参赛者与模拟银行AI聊天机器人对话，发现违反人工智能伦理原则的行为；赛道B：夺旗赛，侧重于技术漏洞分析，促使AI泄露秘密信息，即系统试图保护的标志。

选择银行业作为AI红队测试的起点至关重要，因为该行业涉及公民重要数据，对经济影响广泛，且要求高度信任。在此背景下测试AI不仅是寻找获胜者的竞赛，更是汇集知识、发展实践、提升AI红队人员能力，并建立政府、私营部门和学术界之间的合作，以制定合适的AI测试指南、工具和标准。

除挑战赛外，活动还设有来自泰国和国际顶尖机构的专家研讨会，包括"塑造安全和负责任AI发展未来"专题讨论，汇集了ETDA、TB-CERT、NCSA、NECTEC和AIAT的代表；以及通过"AI安全实践：一线经验"讨论会分享实践经验，微软、谷歌、华为和新加坡资讯通信媒体发展局的代表交流了组织在开发和部署AI时应对风险的方法，包括设置护栏、测试系统以及建立责任机制，确保AI能够安全地广泛应用。

另一个重要议题是建立可信赖AI，通过由新加坡资讯通信媒体发展局代表主讲的"构建可信赖AI：大规模推进责任与安全"主题演讲，以及谷歌代表主讲的"将AI安全融入产品：护栏与红队实践"主题演讲，表明AI安全应从产品、服务和AI开发过程的初期就进行设计和嵌入。随后，在"确保产品AI安全：LLM基准测试实践"环节中，泰国人寿保险、TRUE和NECTEC的代表交换了观点，强调了在大语言模型应用于实际服务前对其进行准确性、安全性和公平性测试和性能比较的重要性。

当天最后，举行了"AI红队测试颁奖典礼"，向2026年泰国银行业AI红队挑战赛中表现出色的团队颁发奖项，这些团队最出色地发现了AI系统的风险、弱点和漏洞。挑战赛的结果将成为制定基准测试、风险评估指南和AI测试标准的重要信息，这些标准可在金融领域实际应用，并未来扩展到其他领域。

在AIGW 2026为期五天的合作中，展示了国家的AI生态系统，体现了对负责任应用AI技术的重视，这实际上是每个组织都应重视的基础，考虑可靠性、安全性和责任感。此外，这还展示了国家工作推进中，AIGPC中心作为国家AI治理中心，与国内外合作网络共同努力，将切实推动国家数字经济和社会的可持续发展。