آیا هوش مصنوعی نیازمند قانون است؟ بزرگترین چالش‌های اخلاقی AI که جامعه با آن روبروست.

تا چند سال پیش، صحبت از هوش مصنوعی بیشتر شبیه خیال‌پردازی‌های علمی‌تخیلی بود؛ ذهن‌هایی که می‌اندیشند، تصمیم می‌گیرند و شاید روزی جای انسان را بگیرند. اما این روزها آن آینده دور، در خانه‌ی ما را زده است. اتحادیه اروپا در ژوئیه ۲۰۲۴، با تصویب Artificial Intelligence Act یا همان «قانون هوش مصنوعی»، رسما به این واقعیت واکنش نشان داد، واقعیتی که حالا در تصمیم‌های اقتصادی، امنیتی و حتی شخصی ما حضور دارد.

وقتی فناوری تا این حد بر داده‌ها، عدالت و انتخاب‌های انسانی تأثیر می‌گذارد، طبیعی است که نبود قانون به نگرانی تبدیل شود. این مقاله نگاهی دارد به همین پرسش اساسی: آیا هوش مصنوعی به قانون نیاز دارد؟ و اگر آری، بزرگ‌ترین چالش‌های اخلاقی AI که جامعه با آن روبه‌روست چیست؟ آیا نیاز به بازتعریف در مفاهیم AI داریم؟ در ادامه‌ بررسی می‌کنیم چگونه می‌توان میان رشد هوش مصنوعی و حفظ مسئولیت انسانی توازن برقرار کرد.

وقتی قانون از فناوری عقب می‌ماند

در نگاه اول، ممکن است به‌نظر برسد که قوانین موجود برای فناوری‌های نوین کافی‌اند، اما وقتی پای «هوش مصنوعی» به میان می‌آید، وضعیت پیچیده‌تر از آن است که فقط با مقررات فناوری اطلاعات یا حریم خصوصی حل شود. در اتحادیه اروپا، ماده نخست قانون هوش مصنوعی به روشنی اعلام می‌کند که هدف، «پشتیبانی از توسعه و کاربرد هوش مصنوعی انسان‌محور و قابل اعتماد» در کنار «حمایت از سلامتی، ایمنی و حقوق بنیادین» است؛ اما حتی با این قانون، منتقدان استدلال می‌کنند که نظام حقوقی فعلی به لحاظ اجرا، زمان‌بندی، استانداردها و تطبیق با فناوری‌های سریع‌التحول، کافی نیست. به‌عنوان مثال، اتحادیه اروپا درباره زمان‌بندی اجرای برخی بندهای قانون دچار تأخیر شده است. 

درواقع، دیگر کسی درباره ضرورت قانون‌گذاری تردید ندارد؛ پرسش اصلی این است که این قوانین با چه سرعت و دقتی باید اجرا شوند تا هم از پیشرفت فناوری عقب نمانند و هم حقوق و ارزش‌های انسانی قربانی نشود.

چالش‌های اخلاقی کلیدی علیه «هوش مصنوعی»

در ادامه، به چند چالش اخلاقی مهم می‌پردازیم که فناوری هوش مصنوعی را به‌عنوان موضوعی قانون‌گذاری‌نشده آسیب‌پذیر می‌کند. این چالش‌ها تنها دغدغه متخصصان فناوری نیستند، بلکه مستقیما بر اعتماد عمومی، عدالت اجتماعی و آینده رابطه‌ انسان و ماشین تأثیر می‌گذارند.

تبعیض و تعصب داده‌ای

یکی از بزرگ‌ترین مشکلات هوش مصنوعی این است که از داده‌هایی یاد می‌گیرد که انسان‌ها ساخته‌اند و این داده‌ها همیشه بی‌طرف نیستند. اگر در گذشته تبعیضی بر پایه جنسیت، نژاد یا موقعیت اجتماعی وجود داشته، الگوریتم‌ها هم همان الگوها را تکرار می‌کنند؛ به‌همین‌دلیل گاهی سیستم‌های استخدام یا تصمیم‌گیری هوشمند، به‌طور ناعادلانه به برخی افراد امتیاز بیشتری می‌دهند. نبود قانون و نظارت می‌تواند این نابرابری‌ها را شدیدتر کند و به جامعه آسیب بزند.

شفافیت و قابلیت توضیح تصمیم‌ها

گاهی هوش مصنوعی تصمیم‌هایی می‌گیرد که حتی سازندگانش هم دقیق نمی‌دانند چطور به آن نتیجه رسیده است. این سیستم‌ها مثل «جعبه‌ سیاه» عمل می‌کنند؛ نتیجه را اعلام می‌کنند، اما دلیلش مشخص نیست. حالا تصور کنید این تصمیم مربوط به استخدام، وام بانکی، یا حتی تشخیص بیماری باشد. در چنین شرایطی، شفافیت اهمیت زیادی دارد. قانون باید تضمین کند که تصمیم‌های مهم AI قابل توضیح باشند و مردم بدانند بر چه اساسی درباره آن‌ها قضاوت شده است.

حقوق داده‌ها و حریم خصوصی

هوش مصنوعی برای یاد گرفتن و تصمیم‌گیری به حجم زیادی از داده‌ها نیاز دارد؛ از عکس‌ها و پیام‌ها گرفته تا سوابق خرید و حتی اطلاعات سلامتی. اگر این داده‌ها بدون اجازه یا نظارت درست جمع‌آوری شوند، حریم خصوصی مردم در خطر قرار می‌گیرد. بدون وجود قانون مشخص، ممکن است شرکت‌ها از اطلاعات شخصی سوء‌استفاده کنند یا افراد حتی ندانند داده‌های‌شان کجا و برای چه استفاده می‌شود. قانون‌گذاری می‌تواند جلوی این بی‌اعتمادی را بگیرد و امنیت داده‌های مردم را تضمین کند.

مسئولیت و پاسخگویی

فرض کنید یک خودرو خودران تصادف کند یا یک برنامه‌ی هوش مصنوعی در تشخیص بیماری اشتباه کند. در چنین شرایطی، سؤال مهمی پیش می‌آید: چه کسی باید پاسخگو باشد؟ شرکت سازنده؟ برنامه‌نویس؟ یا کسی که از آن استفاده کرده است؟ نبود قانون روشن باعث می‌شود هیچ‌کس مسئولیت را به‌طور کامل نپذیرد. به‌همین‌دلیل، قانون‌گذاری لازم است تا مشخص کند در صورت خطا یا خسارت، چه کسی باید پاسخ دهد و از حقوق مردم محافظت شود.

تأثیر اجتماعی و تغییرات در کار

هرچند «هوش مصنوعی» فرصت‌های بزرگی به همراه دارد، اما بدون قانون ممکن است زمینه افزایش نابرابری، از دست رفتن مشاغل یا تمرکز قدرت در دست چند بازیگر شود. همچنین پرسش‌های اخلاقی درباره ارزش انسانی و جای ماشین‌ها در تصمیمات انسانی بالا می‌گیرد.

این چالش‌ها ثابت می‌کنند که فقط فناوری پیشرفت نمی‌کند، بلکه سوالات اخلاقی و اجتماعی آن نیز باید همزمان به پیش بروند، و این یعنی: قانون‌گذاری نه فقط لازم است، بلکه باید فوری ایجاد و اعمال شود.

چالش‌های ویژه هوش مصنوعی مولد: مالکیت و محتوای جعلی

هوش مصنوعی مولد (Generative AI) که توانایی خلق محتوای بسیار واقع‌گرایانه را دارد، دو بحران کلیدی را به جامعه تحمیل کرده است: حقوق مالکیت معنوی و شیوع محتوای جعلی عمیق.

حقوق مالکیت و کپی‌رایت: مدل‌هایی با تغذیه غیرمجاز

• آموزش غیرمجاز: مدل‌های هوش مصنوعی مولد بر روی حجم عظیمی از داده‌های اینترنتی آموزش داده شده‌اند که غالباً بدون رضایت و جبران مالی از صاحبان اصلی آثار (هنرمندان، نویسندگان) جمع‌آوری شده است. این امر سؤال می‌کند: آیا این «استفاده منصفانه» است یا نقض گسترده کپی‌رایت؟

• ابهام در مالکیت خروجی: قوانین فعلی برای تعیین مالکیت اثری که کاملاً توسط هوش مصنوعی و با یک دستور (پرامپت) ساده تولید شده، کفایت نمی‌کنند. در نتیجه، مالکیت قانونی اثر خلق‌شده اغلب مبهم باقی می‌ماند.

فاجعه محتوای جعلی و بحران اعتماد

• تهدید علیه اعتبار افراد: تولید انبوه ویدیوها، صداها و تصاویر بسیار واقع‌گرایانه و جعلی از افراد (Deepfakes) حریم خصوصی و اعتبار شغلی را مستقیماً هدف قرار می‌دهد و تشخیص حقیقت را برای عموم ناممکن می‌کند.

• دستکاری اطلاعاتی: محتوای جعلی ابزار قدرتمندی برای انتشار اخبار دروغین و هدف قرار دادن فرآیندهای دموکراتیک مانند انتخابات است، که به سرعت اعتماد عمومی به منابع معتبر را از بین می‌برد.

• نیاز به شفافیت: قانون‌گذاری باید توسعه‌دهندگان را موظف کند تا تمام محتوای تولیدشده توسط هوش مصنوعی را با واترمارک‌های دیجیتال یا نشانگرهای اجباری برچسب‌گذاری کنند تا منبع و اصالت آن برای همه قابل تشخیص باشد.

حل این دو چالش، بخش حیاتی از ضرورت قانون‌گذاری بر هوش مصنوعی است تا از ثبات اقتصادی بخش خلاق و سلامت اطلاعاتی جامعه محافظت شود.

چرا قوانین موجود کافی نیستند؟

اگر بپرسیم وضع فعلی قوانین فناوری یا حریم خصوصی چطور است، جواب این است که «هوش مصنوعی» ویژگی‌هایی دارد که قوانین گذشته برایش طراحی نشده‌اند: سرعت تحول بالا، کاربردهای گسترده در حوزه‌های حساس، تصمیم‌گیری خودکار، عدم شفافیت.

در اتحادیه اروپا، اگرچه قانون Artificial Intelligence Act تصویب شده، اما هنوز در اجرا و استانداردگذاری با مشکلات بسیاری مواجه است. برای مثال، درباره زمان‌بندی، راهنمای فنی و سطح آمادگی نهادها. به‌عبارت دیگر، قانون ممکن است وجود داشته باشد، اما «کافی و به‌روز نیست». از این رو چالش قانون‌گذاری برای هوش مصنوعی، نه فقط تدوین قانون، بلکه نظارت، تطبیق، آموزش و توانمندسازی نهادها نیز هست.

آنگاه اگر بخواهیم بگوییم چرا قانون‌گذاری سریع‌تر باید باشد، پاسخ روشن است: بدون قانون، «هوش مصنوعی» می‌تواند در خلأ نظارتی رشد کند و تأثیراتش از کنترل خارج شود؛ با قانون قوی، می‌توان فناوری را در خدمت انسان نگه داشت، نه این‌که انسان در خدمت فناوری باشد.

آموزش و افزایش سواد دیجیتال مردم

آموزش و افزایش سواد دیجیتال مردم یکی از مهم‌ترین پایه‌های توسعه ایمن و مسئولانه هوش مصنوعی است. قانون‌گذاری به‌تنهایی کافی نیست اگر مردم ندانند این فناوری چگونه کار می‌کند و چه تأثیری بر زندگی روزمره آن‌ها دارد.

لازم است برنامه‌های آموزشی ساده، کاربردی و قابل‌دسترسی برای همه گروه‌های جامعه اجرا شود تا شهروندان، کارمندان و مدیران بتوانند داده‌های شخصی خود را بهتر محافظت کنند، تصمیم‌های خودکار را با آگاهی بیشتری بسنجند و در برابر استفاده‌های ناعادلانه از فناوری واکنش درست نشان دهند. این آگاهی عمومی می‌تواند اعتماد به هوش مصنوعی را افزایش دهد و مسیر استفاده‌ی مسئولانه از آن را هموارتر کند.

حاکمیت و نظارت مستقل بر هوش مصنوعی

حاکمیت و نظارت مستقل بر هوش مصنوعی نقش بسیار مهمی در اجرای مؤثر قوانین دارد. قانون زمانی تأثیرگذار است که به‌درستی اجرا شود و برای این منظور، وجود نهادهای مستقل و شفاف ضروری است تا بتوانند بر الگوریتم‌ها و تصمیم‌های هوش مصنوعی نظارت کنند.

همچنین ایجاد مراکز بررسی، ممیزی فنی و صدور گواهی‌نامه برای سامانه‌های پرخطر اطمینان می‌دهد که فناوری پیش از ورود به بازار، از نظر ایمنی، عدالت و انطباق با استانداردها به‌طور کامل ارزیابی شده است. این ساختار نظارتی می‌تواند از بروز خطا، تبعیض و سوءاستفاده جلوگیری کند و اعتماد عمومی به هوش مصنوعی را تقویت نماید.

گام بعدی چیست؟

امروز «هوش مصنوعی» بیش از هر زمان دیگری بخش واقعی زندگی ما شده است: از خدمات آنلاین گرفته تا تشخیص پزشکی و توصیه‌های مالی. بنابراین ایجاد و اعمال قانون‌های به روز و مرتبط ضروری است. چالش‌های اخلاقی متعدد، از تبعیض و عدم شفافیت تا حریم داده و مسئولیت‌پذیری، همگی نشان می‌دهند که رشد فناوری بدون وجود قانون، ریسک‌های بسیار زیادی به‌دنبال خواهد داشت. تحلیلگران حوزه هوش مصنوعی در دیتایاد معتقدند که قانون‌گذاری سریع‌تر ضروری است و اگر امروز چارچوب حقوقی مناسبی تدوین نشود، فردا اثبات خسارات ناشی از هوش مصنوعی بسیار دشوارتر خواهد بود.

اگر شما کارمند، مدیر یا تصمیم‌گیر هستید، می‌توانید نقش فعالی ایفا کنید: درباره کاربرد هوش مصنوعی در سازمان خود سؤال بپرسید، برای شفافیت و توضیح عملکرد سیستم‌ها درخواست کنید و از چارچوب‌های اخلاقی و قانونی حمایت کنید. با این اقدامات، می‌توانیم با ترکیب هوش مصنوعی و قانون، آینده‌ای بسازیم که فناوری در خدمت انسان باشد و نه تهدیدی برای او.