«رصد سبک زندگی» در ایران و کابوس هوش مصنوعی در نبود تضمین‌های حقوقی

مجلس در جریان بررسی برنامه هفتم توسعه، ماده قانونی راه‌اندازی «سامانه رصد سبک زندگی» را تصویب کرد. این ماده تنها یکی از بخش‌های برنامه به دقت طراحی شده‌ «رویکرد استقرار الگوی حکمرانی هوشمند» در ایران است.
حکمرانی هوشمند در کشورهایی که حداقل‌های قانونی حمایت از داده‌های شخصی و احترام به حقوق شهروندان در فضای دیجیتال را شناسایی نکرده‌اند، به آسانی می‌تواند به اختناقی هوشمند و ساختاری ختم شود. این یادداشت تلاش دارد تا با استفاده از قواعد حقوق هوش مصنوعی نشان دهد «الگوی حکمرانی هوشمند»، جامعه‌ ایرانی را با چه خطرات بنیادین و بی‌سابقه‌ای مواجه می‌کند.

طراحی معماری حکمرانی هوشمند در برنامه هفتم توسعه
برنامه هفتم توسعه را می‌توان سند حقوقی استقرار چارچوب حکمرانی هوشمند در ایران دانست.
در پیش‌نویس برنامه دستگاه مختلف دولتی و نهادهای غیردولتی عمومی موظف به جمع آوری و تجمیع داده‎‌های شهروندان شده اند. این الزام تقریباً تمام عرصه‌های زندگی ایرانیان را شامل می‌شود؛ از فعالیت های آنلاین تا خدمات قضایی و مسکن و سلامت. از آن جمله:
-ثبت و جمع آوری اطلاعات مربوط به وضعیت زنان و خانواده در سامانه هوشمند
-تکمیل و یکپارچه‌سازی سامانه‌ه‎‌های پرونده الکترونیک سلامت
-تمدید پروانه پزشکان و پروانه مراکز درمانی تنها از طریق ارسال اطلاعات به سامانه یکپارچه پرونده الکترونیک سلامت ایرانیان
-راه‌اندازی پایگاه ملی هویت اشخاص حقیقی و حقوقی با امکان شناسایی روابط سببی و نسبی اشخاص حقیقی و شناسایی خانوار در سازمان ثبت احوال
-رد یابی و رهگیری کالاهای سلامت محور، دارو و ملزومات پزشکی به صورت دیجیتال
-کنترل نحوه فعالیت و پرونده های وکلا از طریق ایجاد سامانه شفافیت عملکرد وکلا
-رصد عبور و مرور خودروها در جاده‌های ایران به صورت آنلاین
-صدورمجوز تمام کسب و کارها از طریث درگاه ملی مجوزها

در مرحله بعد دستگاه‌ها‌‌، باید به صورت مدام و آنلاین داده های شهروندان را در اختیار «سامانه رصد، پایش و سنجش مستمر شاخص‌های فرهنگ عمومی و سبک زندگی مردم» قرار دهند.
هر چند برخلاف متن پیش‌نویس، عنوان «شرکت های خصوصی» در مصوبه مجلس حذف شده است، اما با وجود اختیارات وسیع قانونگذاری شورای عالی فضای مجازی، کافی‌ست این شورا این تکلیف جدید را به شرکت‌های خصوصی‌ مانند تاکسی‌های اینترنتی و فروشگاه‌های آنلاین و پلتفورم‌ها تحمیل کند.
در شهریور ۱۴۰۱ طی مصوبه‌ای شورای عالی فضای مجازی به خود اختیارات وسیع قانونگذاری اعطا کرد و به این ترتیب طرح جنجالی صیانت در عمل اجرا گردید.

پروفایل کردن و تصمیم‌گیری‌های اتوماتیک
پرسش بعد آن است که مگر حاکمیت از این داده‌ها چه استفاده‌ای می‌کند و چرا باید استقرار دولت هوشمند در ایران را زنگ خطری برای حقوق بنیادین شهروندان دانست؟
برای پاسخ به این پرسش لازم است ابتدا با دو مفهوم پروفایل کردن و تصمیم‌گیری اتوماتیک آشنا شویم.
در مقررات حمایت از داده‌های شخصی «پردازش اتوماتیک داده‌های شخصی افراد برای پی‌بردن به جنبه‌‌های مختلف شخصیتی آنها» پروفایل کردن نامیده می‌شود.
تصمیم‌گیری با ابزارهای اتوماتیک (الگوریتم‌ها) بدون اینکه هیچ انسانی در آن دخیل باشد تصمیم‌گیری خودکار یا اتوماتیک نامیده می‌شود.
این تکنیک‌ها با تحلیل داده‌های شخصی می توانند اولویت‌ها، علائق، گرایشات فکری و جنسی و سیاسی، وضعیت مالی، سلامت افراد و غیره را شناسایی و رفتارهای آینده را پیش بینی کنند.
داده‌های مربوط به رفتار فرد در پلتفورم‌های اجتماعی و موتورهای جستجو از داده‌های مربوط به جستجوی کتاب‌ و مجله در اپلیکیشن‌های کتابخوان در پایگاه‌های جدا از هم قراردارند.
اما الگوریتم می‌تواند با کشف ارتباط بین داده‌های متفاوت به گرایشات سیاسی شخص پی ببرد و کاربر را در دسته منتقدان نظام حاکم دسته بندی کند. همچنین الگوریتم می‌تواند پیش بینی کند که افراد این دسته در زمان‌های مختلف چه رفتاری خواهند داشت.
برداشت‌های هوش مصنوعی از خصوصیات افراد یک واقعیت محتوم و متقن نیست و همیشه این امکان وجود دارد که صحت نداشته باشند. براساس قانون حمایت ازداده های شخصی اروپا، اگر تصمیمی مهمی به صورت کاملاً اتوماتیک گرفته شود، شهروند می‌تواند به تصمیم اعتراض کند. اعمال این حق اعتراض نیازمند آن است که فرایندهای تصمیم‌گیری‌های اتوماتیک شفاف باشند.
در بسیاری مواقع تصمیم گیری‌های اتوماتیک می‌تواند به نتایج سریع و دقیقی منجر شوند. مخصوصاً اگر اتخاذ تصمیم نیاز به تجزیه و تحلیل حجم بالایی از اطلاعات داشته باشد. هوش مصنوعی می‌تواند در کوتاه ترین زمان داده‌ها را بررسی کند و به تصمیم برسد. اما در کنار تمام این منافع نباید تهدیدها و خطرات آن برای حقوق افراد را فراموش کرد.

سیستم اعتبارسنجی اجتماعی شهروندان
یکی از امکاناتی که هوش مصنوعی در اختیار حکومت‌های تمامیت‌خواه قرار می‌دهد اجرای نظام «رتبه‌بندی اجتماعی»‌ است.
هوش مصنوعی با تحلیل داده‌های شخصی، رتبه و اعتبار افراد را تعیین می‌کند. در سیستم اعتبارسنجی اجتماعی اگر افراد امتیاز کمی داشته باشند به تدریج از خدمات عمومی محروم می شوند.
برای مثال در چین ممکن است این محرومیت تا آنجا پیش برود که افراد حتی نتوانند از خانه خارج شوند یا بلیط اتوبوس و مترو بخرند. در پیش‌نویس قانون هوش مصنوعی اتحادیه اروپا کاربرد هوش مصنوعی برای اعتبار سنجی اجتماعی ممنوع شده است.
در فرض استفاده از داده‌های سامانه رصد زندگی برای «اعتبار سنجی اجتماعی هوشمند» در ایران، می‌توان چنین سناریویی را به تصویر کشید: اگر امتیاز اجتماعی شهروند از نظر «ارزش‌های اسلامی انقلابی و سبک زندگی تراز» از حداقل‌های مورد نظر حاکمیت کمتر باشد، وی به طور اتوماتیک از دریافت خدمات عمومی و مجوزهای حرفه‌ای محروم می‌شود.
بر خلاف تلاش‌های جهانی، در ایران هیچ چشم اندازی برای تدوین قوانینی که از حقوق افراد در دنیای هوش مصنوعی و کلان داده حمایت کنند وجود ندارد. اصل کلی احترام به حریم خصوصی نیز به تنهایی نمی‌تواند مانع دست اندازی حکومت‌ها به داده‌های شخصی افراد شود.
با این خلاء قانونی دست نهادهای حاکمیتی برای هر نوع استفاده از هوش مصنوعی باز است. پروفایل کردن، تصمیم‌گیری اتوماتیک و اعتبار سنجی اجتماعی بدون رعایت حقوق افراد علاوه بر نقض حریم خصوصی، حق دسترس به شغل، آموزش، آزادی عقیده و بیان، مشارکت در زندگی سیاسی و حق دسترسی به رسیدگی قضایی عادلانه را نیز نقض می‌کند.

منبع: بی‌بی‌سی فارسی