7 月 19 日消息，昨日舉辦的阿斯彭安全論壇（Aspen Security Forum）會議中，谷歌、微軟、OpenAI、亞馬遜、英偉達、英特爾等 14 家 AI 領域的大公司宣布聯(lián)合組建安全人工智能聯(lián)盟（Coalition for Secure AI，CoSAI）。
CoSAI 由 OASIS 全球標準機構主辦，是一項開源計劃，旨在為所有 AI 從業(yè)人員和開發(fā)人員提供創(chuàng)建設計安全人工智能系統(tǒng)所需的指導和工具。CoSAI 將建立一個合作生態(tài)系統(tǒng)，共享開源方法、標準化框架和工具等等。
CoSAI 的創(chuàng)始贊助商包括谷歌、IBM、英特爾、微軟、英偉達和 PayPal。其他創(chuàng)始贊助商包括亞馬遜、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。
CoSAI 首先將致力于實現(xiàn)三個目標：
-
開發(fā)人工智能安全的最佳實踐
-
應對人工智能領域的挑戰(zhàn)
-
確保人工智能應用的安全
CoSAI 的工作范圍包括安全地構建、集成、部署和運行人工智能系統(tǒng)，重點是降低模型盜竊、數(shù)據(jù)中毒、提示注入、規(guī)模濫用和推理攻擊等風險。
CoSAI 是一個開源社區(qū)，由項目理事會和技術指導委員會領導，前者負責推進和管理其總體技術議程，后者由學術界和產(chǎn)業(yè)界的人工智能專家組成，負責監(jiān)督其工作流。
IT之家附上谷歌安全副總裁希瑟?阿德金斯（Heather Adkins）在聲明中的部分內容如下：
AI 發(fā)展多年，為防御者帶來的持續(xù)潛力，同時也認識到它為對手帶來的機遇。
CoSAI 將幫助大大小小的組織安全、負責任地整合人工智能，幫助他們利用人工智能的優(yōu)勢，同時降低風險。