新加坡成立AI Verify基金会以通过合作制定国际人工智能标准 今日看点

(相关资料图)

在新加坡科技展Asia Tech x Singapore（ATxSG）期间举行的ATxAI大会上，新加坡通讯及新闻部长杨莉明女士宣布成立AI Verify Foundation基金会，旨在汇聚全球开源社区的智慧和力量，共同开发人工智能（AI）测试工具，促进负责任地使用AI。该基金会将致力于提高AI测试能力和保证，满足全球企业和监管机构的需求。七位在业内扮演先锋角色的首要成员 -- 新加坡资讯通信媒体发展局（IMDA）、Aicadium（淡马锡的AI卓越中心）、IBM、微软、Google、红帽公司（Red Hat）和Salesforce将指导AI Verify路线图的战略方向和发展。该基金会成立伊始便将得到60多位普通成员的支持，包括Adobe、DBS、Meta、SenseTime和新加坡航空公司[1]。

为可信AI奠定基础

AI Verify基金会的成立将为AI Verify的开发和使用提供支持，有效应对AI风险。AI Verify是一个AI治理测试框架和软件工具包，由IMDA携手不同行业和规模的公司首次开发。该基金会将有助于培养一个开源社区，推进AI测试框架、代码库、标准和最佳实践，并创建一个中立的平台，推动测试和AI治理方面的开放合作和交流共享。

去年，AI Verify作为国际试点的最低可行产品推出，吸引了包括IBM、戴尔、日立和瑞银在内的50多家当地和跨国公司的关注。AI Verify现在可供开源社区使用，并将向全球社区提供符合国际公认的AI治理原则（如欧盟、经合组织和新加坡施行的治理原则）的测试框架和工具包。AI Verify工具包提供了一个集成式接口，可生成涵盖AI系统不同治理原则的测试报告，帮助企业通过与利益相关者分享这些报告来提高AI的透明度。

齐心协力在全球范围内推进AI测试

IMDA建立AI Verify是为了帮助企业组织通过标准化测试客观地展示负责任的AI。AI测试技术尽管在不断发展，但仍处于萌芽阶段，需要整个行业和研究界共同运用最顶尖的专业知识来促进该领域的加速发展。

在认识到AI的潜在风险后，杨莉明部长指出，政府仅凭一己之力无法实现相关目标。她表示：“私营部门可以将自己的专长和技术投入进来，与我们一起实现这些目标，这是非常有意义的一件事。”她还认为，AI已经让人们感到真正的恐惧和担忧，我们需要积极引导AI朝着有益的方向发展，尽可能消除潜在风险。“这是新加坡对AI未来的期望。”