近日，美國(guó)生成式人工智能領(lǐng)域的領(lǐng)軍企業(yè)OpenAI在加拿大陷入一場(chǎng)激烈的輿論風(fēng)波。事件的導(dǎo)火索是OpenAI未能及時(shí)向加拿大政府報(bào)告其人工智能模型ChatGPT平臺(tái)用戶存在暴力傾向，這一疏忽導(dǎo)致未能及時(shí)阻止一起惡性校園槍擊事件的發(fā)生，該事件最終造成包括槍手在內(nèi)的9人死亡，慘狀令人痛心。

當(dāng)?shù)貢r(shí)間2月26日，OpenAI向加拿大政府作出多項(xiàng)鄭重承諾，旨在全方位加強(qiáng)安全機(jī)制。該公司全球政策負(fù)責(zé)人安·奧利里透露，早在“幾個(gè)月前”公司就已實(shí)施一系列政策變更。這些變更措施涵蓋廣泛，包括積極咨詢“心理健康、行為和執(zhí)法專家”，以此精準(zhǔn)判斷聊天機(jī)器人的對(duì)話何時(shí)構(gòu)成可信風(fēng)險(xiǎn)。奧利里明確強(qiáng)調(diào)，依據(jù)增強(qiáng)后的安全機(jī)制，一旦發(fā)現(xiàn)被封禁的賬戶，OpenAI會(huì)立即將其轉(zhuǎn)交給相關(guān)執(zhí)法部門，確保潛在風(fēng)險(xiǎn)得到及時(shí)處理。此外，OpenAI還承諾與加拿大執(zhí)法部門建立直接且高效的聯(lián)系渠道。這意味著，一旦OpenAI擔(dān)憂ChatGPT用戶可能計(jì)劃在現(xiàn)實(shí)世界中實(shí)施暴力行為，便能迅速通知警方，讓執(zhí)法部門得以第一時(shí)間介入，將危險(xiǎn)扼殺在萌芽狀態(tài)。

此前，OpenAI曾公開表示，未聯(lián)系警方處理一個(gè)被其封禁的賬戶，而該賬戶屬于一名涉嫌大規(guī)模槍擊案的嫌疑人。當(dāng)?shù)貢r(shí)間2月10日，18歲的杰西·范·魯特塞拉爾在加拿大不列顛哥倫比亞省的一個(gè)小鎮(zhèn)持槍行兇，瘋狂槍殺了8人后自殺身亡，這起悲劇震驚了整個(gè)加拿大社會(huì)。（央視新聞）