کالیفرنیا اولین قوانین آمریکایی برای چت‌بات‌های همراه هوش مصنوعی را اعمال می‌کند

کالیفرنیا به اولین ایالت تبدیل شده است که برای چت‌بات‌های “همراه”، برنامه‌های هوش مصنوعی که دوستی یا صمیمیت را تقلید می‌کنند، چارچوب‌های مشخصی تعیین کرده است. فرماندار گوین نیوسوم در روز دوشنبه امضا شد لایحه سنا ۲۴۳ که از چت‌بات‌ها می‌خواهد که خود را به عنوان هوش مصنوعی معرفی کنند، گفتگو دربارهٔ مسائل جنسی و آسیب به خود را با افراد زیر سن قانونی محدود کنند و مواردی از افکار خودکشی که شناسایی می‌شوند را به دفتر پیشگیری از خودکشی ایالت گزارش دهند.

قانونی که توسط سناتور ایالتی استیو پادیلا (دموکرات-سن دیگو) این موضوع جبهه جدیدی در نظارت بر هوش مصنوعی را مشخص می‌کند—که کمتر بر روی معماری مدل یا تعصب داده‌ها تمرکز می‌کند و بیشتر بر روی رابط عاطفی بین انسان‌ها و ماشین‌ها تأکید دارد. این امر شرکت‌ها را ملزم می‌کند تا یادآوری‌های منظم صادر کنند که کاربران در حال گفتگو با نرم‌افزار هستند، پروتکل‌هایی برای پاسخ به نشانه‌های خودآزاری اتخاذ کنند و فیلترهای محتوای مناسب با سن را حفظ کنند.



لایحه نهایی باریک‌تر از لایحه‌ای است که پادیلا ابتدا معرفی کرد. نسخه‌های قبلی خواستار حسابرسی‌های شخص ثالث شد و شامل تمام کاربران، نه فقط افراد زیر سن قانونی، بود؛ این مفاد تحت فشار صنعت حذف شد.

بسیار ضعیف برای انجام کار خوب؟

چندین گروه حامی گفتند نسخه نهایی این لایحه به قدری ضعیف است که نمی‌تواند تفاوتی ایجاد کند. رسانه‌های حس مشترک و پروژه نظارت بر فناوری هر دو حمایت خود را پس از این که قانون‌گذاران بندهای مربوط به حسابرسی‌های شخص ثالث و اجرای وسیع‌تر را حذف کردند، withdrew. در بیانیه‌ای به سیاست فناوری مطبوعات یک وکیل گفت که لایحه اصلاح‌شده در خطر تبدیل شدن به “ یک اقدام خالی به جای سیاست معنادار .”

نیوسوم از این قانون به عنوان یک حفاظ ضروری برای فناوری‌های نوظهور دفاع کرد. “فناوری‌های نوظهور مانند چت‌بات‌ها و شبکه‌های اجتماعی می‌توانند الهام‌بخش، آموزشی و ارتباطی باشند – اما بدون حفاظ‌های واقعی، فناوری همچنین می‌تواند سوءاستفاده کند، گمراه کند و فرزندان ما را به خطر بیندازد.” در بیانیه‌ای گفت «ما می‌توانیم به رهبری در هوش مصنوعی و فناوری ادامه دهیم، اما باید این کار را به طور مسئولانه انجام دهیم و در هر مرحله از کودکان خود محافظت کنیم.»

SB 243 همراه با مجموعه وسیع‌تری از لوایحی است که در هفته‌های اخیر امضا شده‌اند، از جمله SB 53 که ملزم می‌سازد که توسعه‌دهندگان بزرگ هوش مصنوعی به‌طور عمومی استراتژی‌های ایمنی و کاهش خطر خود را اعلام کنند. این موارد کالیفرنیا را در خط مقدم حاکمیت هوش مصنوعی در سطح ایالت قرار می‌دهد.

اما قوانین جدید چت‌بات‌ها ممکن است در عمل دشوار باشد. توسعه‌دهندگان هشدار می‌دهند که مسئولیت‌های بسیار گسترده ممکن است شرکت‌ها را وادار کند تا از احتیاط، گفتگوهای قانونی در مورد سلامت روان یا sexuality را محدود کنند و در نتیجه کاربران، به‌ویژه نوجوانان منزوی، را از حمایت‌های باارزش محروم کنند.

اجرای این قوانین نیز ممکن است دشوار باشد: یک شرکت چت‌بات جهانی ممکن است در شناسایی اینکه چه کسی به عنوان یک فرد بزرگسال در کالیفرنیا واجد شرایط است یا نظارت بر میلیون‌ها تبادل روزانه دچار مشکل شود. و مانند بسیاری از اولین‌های کالیفرنیا، این خطر وجود دارد که مقررات با نیت خوب قبل از اینکه کسی بداند آیا واقعاً مؤثر است، در سطح کشور صادر شود.