紐約州考慮通過一項(xiàng)法案 禁止AI聊天機(jī)器人提供法律和醫(yī)療建議

一項(xiàng)正在紐約州立法機(jī)構(gòu)審議的議案擬禁止人工智能聊天機(jī)器人向公眾提供法律或醫(yī)療建議，并賦予用戶起訴違規(guī)聊天機(jī)器人所有者的權(quán)利。 該法案編號為S7263，由州參議院在上一立法會期間提出，上周在互聯(lián)網(wǎng)與技術(shù)委員會以6票贊成、0票反對的表決結(jié)果獲準(zhǔn)出委員會，屬于一攬子監(jiān)管AI聊天機(jī)器人的立法方案之一。

法案重點(diǎn)針對那些假扮持證專業(yè)人士（如醫(yī)生、律師）的AI聊天機(jī)器人，禁止其提供可能違反專業(yè)執(zhí)照法律或構(gòu)成“無證執(zhí)業(yè)”的“實(shí)質(zhì)性回應(yīng)、信息或建議”。

法案要求聊天機(jī)器人的所有者必須向用戶提供“清晰、顯著且明確”的提示，告知用戶其正在與一套AI系統(tǒng)互動，該提示需使用與聊天機(jī)器人相同的語言，并以可讀的字體呈現(xiàn)。 不過，法案同時強(qiáng)調(diào)，這一“非人類系統(tǒng)”的提示并不能免除聊天機(jī)器人所有者的法律責(zé)任。 在這一框架下，如果運(yùn)營方違反禁令，用戶可依據(jù)法案賦予的民事訴權(quán)，將聊天機(jī)器人所有者告上法庭，索賠損失并請求支付律師費(fèi)。 一些專家認(rèn)為，類似的私人訴權(quán)條款是數(shù)據(jù)和AI監(jiān)管法律中重要的執(zhí)行工具，缺乏這一機(jī)制往往會削弱法律威懾力，美國緬因州司法部長近期就曾在討論數(shù)據(jù)隱私立法時稱其具有“顯著威懾效果”。

若該法案最終通過并由州長簽署，將在生效后90天正式實(shí)施。 S7263所在的立法組合還包括多項(xiàng)針對AI與未成年人保護(hù)的措施，例如限制聊天機(jī)器人中對未成年人不安全功能的使用，以及規(guī)范某些被認(rèn)為對未成年人隱私保護(hù)薄弱的在線平臺（包括游戲平臺Roblox）。 組合立法中的其它項(xiàng)目則涉及要求生成式AI系統(tǒng)向用戶提供使用說明性提示，以及對生物識別數(shù)據(jù)和“合成內(nèi)容創(chuàng)作”的處理設(shè)立新規(guī)。

法案提出人、兼任州參議院互聯(lián)網(wǎng)與技術(shù)委員會主席的克里斯滕·岡薩雷斯參議員表示，這攬子法案旨在確保AI創(chuàng)新“不會以紐約人的安全，尤其是兒童的安全為代價”。 今年1月，免費(fèi)生成式AI聊天應(yīng)用Character.AI與Google就數(shù)起與未成年人自殺相關(guān)的訴訟達(dá)成和解，案件焦點(diǎn)正是這些聊天機(jī)器人在悲劇中扮演的角色，此類事件也推動了各州加快對聊天機(jī)器人的規(guī)制步伐。 岡薩雷斯在一份新聞稿中指出，公眾“理應(yīng)獲得來自真實(shí)人的真實(shí)關(guān)懷”，并享有透明度、問責(zé)機(jī)制以及在使用技術(shù)時其數(shù)據(jù)得到安全保護(hù)的承諾。

目前，這些紐約州層面的舉措也置于更廣泛的全美AI監(jiān)管博弈背景之下，涉及州與聯(lián)邦、隱私與創(chuàng)新、安全與開放之間的多重權(quán)衡。 在此案之后，圍繞聊天機(jī)器人能否提供專業(yè)建議、如何提示其“非人身份”、以及一旦造成傷害由誰負(fù)責(zé)等問題，預(yù)計(jì)將在美國各級立法與司法實(shí)踐中持續(xù)發(fā)酵。