Een wetsvoorstel voor de wetgevende macht van de staat New York zou chatbots op het gebied van kunstmatige intelligentie verbieden juridisch of medisch advies aan het publiek te geven en gebruikers het recht geven eigenaren van overtredende chatbots aan te klagen. Het wetsvoorstel, genummerd S7263, werd tijdens de laatste zittingsperiode door de Senaat ingediend. Het werd vorige week door de commissie goedgekeurd met een stem van 6 voor en 0 tegen in de Internet- en Technologiecommissie. Het is een van de wetgevingspakketten om AI-chatbots te reguleren.
法案重点针对那些假扮持证专业人士（如医生、律师）的AI聊天机器人，禁止其提供可能违反专业执照法律或构成“无证执业”的“实质性回应、信息或建议”。
法案要求聊天机器人的所有者必须向用户提供“清晰、显著且明确”的提示，告知用户其正在与一套AI系统互动，该提示需使用与聊天机器人相同的语言，并以可读的字体呈现。 不过，法案同时强调，这一“非人类系统”的提示并不能免除聊天机器人所有者的法律责任。 在这一框架下，如果运营方违反禁令，用户可依据法案赋予的民事诉权，将聊天机器人所有者告上法庭，索赔损失并请求支付律师费。 一些专家认为，类似的私人诉权条款是数据和AI监管法律中重要的执行工具，缺乏这一机制往往会削弱法律威慑力，美国缅因州司法部长近期就曾在讨论数据隐私立法时称其具有“显著威慑效果”。
Als het wetsvoorstel uiteindelijk wordt aangenomen en ondertekend door de gouverneur, wordt het 90 dagen nadat het van kracht wordt officieel geïmplementeerd. Het wetgevingsportfolio waarin S7263 is opgenomen omvat ook een aantal maatregelen gericht op AI en de bescherming van minderjarigen, zoals het beperken van het gebruik van features in chatbots die onveilig zijn voor minderjarigen en het reguleren van bepaalde online platforms (waaronder het gamingplatform Roblox) die als zwak worden beschouwd in het beschermen van de privacy van minderjarigen. Andere items in het wetgevingspakket betreffen het vereisen van generatieve AI-systemen om gebruikers instructies te geven voor gebruik, evenals het vaststellen van nieuwe regels voor de verwerking van biometrische gegevens en het creëren van ‘synthetische inhoud’.
Senator Kristen Gonzalez, de sponsor van het wetsvoorstel en voorzitter van de Internet- en Technologiecommissie van de Senaat, zei dat dit pakket wetsvoorstellen tot doel heeft ervoor te zorgen dat AI-innovatie “niet ten koste gaat van de veiligheid van New Yorkers, vooral kinderen.” In januari van dit jaar bereikte Character.AI, een gratis generatieve AI-chat-app, een schikking met Google in verschillende rechtszaken met betrekking tot kleine zelfmoorden. De focus van de zaak lag op de rol die deze chatbots speelden in de tragedie. Dergelijke incidenten hebben staten er ook toe aangezet de regulering van chatbots te versnellen. Gonzalez zei in een persbericht dat het publiek “echte zorg van echte mensen verdient”, evenals transparantie, verantwoordelijkheid en de belofte dat hun gegevens veilig worden beschermd bij het gebruik van technologie.
Momenteel worden deze initiatieven op staatsniveau in New York ook geplaatst in de context van een breder nationaal AI-regelgevingsspel, waarbij sprake is van meerdere afwegingen tussen staat en federaal, privacy en innovatie, veiligheid en openheid. Na deze zaak zullen kwesties als de vraag of chatbots professioneel advies kunnen geven, hoe ze kunnen worden herinnerd aan hun ‘niet-menselijke status’ en wie verantwoordelijk is als ze schade veroorzaken, naar verwachting blijven sudderen in de wetgeving en de rechtspraktijk op alle niveaus in de Verenigde Staten.