[زیر ذره‌بین] اخلاقیات داده، از حرف تا عمل

ژانویه 12, 2021

نوشته دارین بنکالها / منبع / منتشر شده در تاریخ ۸ اکتبر ۲۰۲۰

هرچند که دنیای امروز ما هر روز بیش از پیش داده-محورتر می‌شود، اما هم‌چنان بحث‌های زیادی بر سر جمع‌آوری، اشتراک‌گذاری و بکارگیری داده وجود دارد. از یک طرف سازمان‌های دولتی، خصوصی و جامعه مدنی همگی از داده برای اطلاع‌رسانی از فعالیت‌های خود، اعم از سیاست‌گذاری‌ها، پژوهش بر روی معضلات اجتماعی و یا ساخت اپلیکیشن‌ها و فناوری‌های هوشمند، استفاده می‌کنند. از طرف دیگر، رسوایی‌های بزرگ اطلاعاتی، موجب تشکیل  فضای هراس از داده شده، فضایی که در آن بسیاری از افراد، به تصرف داده می‌پردازند. با این حال، کسانی که به جمع‌آوری، اشتراک‌گذاری و کار با داده مشغول‌اند، بیش از پیش با انتقاد عمومی مواجه شده‌اند که در نتیجه آن، تعداد بیشتری از افراد به اصول اخلاقی شیوه‌های خود توجه کرده‌اند و چارچوب‌های اخلاقی را به عنوان راهنما در کار خود به کار می‌بندند. 

Image for post

Photo by David Werbrouck on Unsplash


موسسه داده باز Open Data Institute، اخلاقیات داده را به عنوان «شاخه‌‌ای از علم اخلاق تعریف می‌کند که در آن شیوه‌های بکار گرفته شده در جمع‌آوری، اشتراک گذاری و بکارگیری داده را با در نظر گرفتن احتمال تاثیرات نامطلوب بر افراد و جامعه، ارزیابی می‌کند». این موسسه می‌گوید که اخلاقیات داده نباید فقط بر روی داده‌های شخصی تمرکز داشته باشد، بلکه می‌بایست به تمام انواع داده و در تمام مراحل چرخه داده، اعمال گردد. در مجموع، اخلاقیات داده، از اتخاذ دستورالعمل‌هایی حمایت می‌کند که موجب می‌شوند تصمیمات اخلاق‌مدارانه‌تری درباره داده گرفته شود، به خصوص در زمان‌هایی که فعالیت‌های مربوط به داده می‌توانند مردم و جامعه را تحت تاثیر قرار دهند.  

ما برای گردهمایی کمیته اجرایی منشور بین‌المللی داده باز (IWG) در ماه سپتامبر، از «اولیویه تورو» از موسسه داده باز، «سارا بیکر» از The Engine Room و «ماریا پاز کانالیس» از Derechos Digitales دعوت کردیم تا درباره‌ اخلاقیات داده به گفتگو بپردازند، قواعد و رفتارهایی را که می‌بایست در کار با داده بکار گیریم را بررسی کرده و درباره اینکه چرا تمام این مسائل برای بهبود جامعه اهمیت دارد، بحث کنند.

با اینکه موسسات بسیاری در سال‌های گذشته اولین قدم را در شناسایی اصول و قواعد استفاده اخلاقی از داده برداشته‌اند، اما در عمل این اصول به ندرت به اجرا گذاشته می‌شوند و به طور نظام‌مند در فعالیتهای روزانه این موسسات لحاظ نشده‌اند. سخنرانان در گردهمایی ما، با تاکید بر اینکه اخلاقیات داده نباید به شکل یک تشریفات دیده شود، ابزارهای کاربردی‌ و دستورالعمل‌هایی را معرفی کردند که می‌توانند در عملی کردن اصول اخلاقی داده به کار بیایند. 

ابزار اخلاقیات داده‌، ارایه شده توسط موسسه داده باز

اولین سخنران ما، اولیویه، به معرفی ابزار اخلاقیات داده‌‌ Data Ethics Canvas که توسط موسسه داده باز ارایه می‌شود، پرداخت، با این امید که چارچوبی کاربردی برای همه افرادی که با داده کار می‌کنند فراهم شود. در واقع هدف اصلی این ابزار این است که به افراد کمک شود تا معضلات اخلاقی داده را درست در شروع کار و همینطور در تمام مراحل یک پروژه، شناسایی و اداره کنند. این ابزار که بر اساس ارزش‌هایی چون مشارکت و اعتماد بنا شده است، با هدف به حداقل رساندن صدمات بر گروه‌های به حاشیه رانده شده، بر روی چهار بخش، تمرکز کرده و در هر کدام از این بخش‌ها، مجموعه‌ای از پرسش‌های عینی را مطرح می‌کند:

  • شناخت داده (صورتی) برای تحلیل فضای کنونی و چگونگی بدست آوردن داده.
  • بررسی اثرات (زرد) با تمرکز بر در نظر گرفتن بده بستان میان تاثیرات مثبت و منفی، هم به صورت کوتاه مدت و هم بلند مدت.
  • برنامه‌ریزی برای مشارکت خود (سبز) چرا که تعامل، کلید ایجاد اعتماد است، و همینطور برای اینکه مردم متوجه چیستی، چرایی و چگونگی یک پروژه باشند. 
  • بکارگیری شیوه‌های اخلاق‌مدارانه (آبی) تا به صورت پیوسته درباره معضلات و ارزش‌گذاری‌های اخلاقی فکر شود.
     

Image for post

Source

«اولیویه» در صحبت‌های خود به افرادی که در آینده می‌خواهند از این ابزار استفاده کنند توصیه‌هایی کرد، از جمله این موضوع که هر یک از زمینه‌های ارائه شده در این ابزار می‌بایست توسط تیمی از متخصصان با سوابق تخصصی متنوع، مورد بررسی قرار گیرد. این ابزار همچنین می‌بایست در تمام زمینه‌های مورد بحث، به یک اندازه دارای جزئیات و کارکرد باشد. مورد دیگر اینکه این ابزار می‌بایست به موازات پیشرفت در روند پروژه، مرتبا بازنگری و به روز رسانی گردد. «اولیویه» همچنین به نکاتی اشاره کرد که متخصصین این حوزه باید در طول چرخه تولید داده، آنها را در نظر گیرند:
 

  • جمع‌آوری: از خود درباره قانونی بودن و همینطور اخلاقی بودن جمع‌آوری داده سوال کنید.
  • استفاده: مردم را از چگونگی بکارگیری داده، نتایج آن و تصمیماتی که بر اساس این داده‌ها گرفته شده، مطلع سازید.
  • اشتراک‌گذاری: داده می‌بایست به صورت منصفانه و عادلانه در دسترس کسانی قرار گیرد که بیشتر از همه به آن نیاز دارند‌. به اشتراک نگذاشتن داده می‌تواند به اندازه اشتراک‌گذاری آن غیراخلاقی باشد.

    برای جزییات بیشتر درباره این ابزار، به اسلایدهای «اولیویه» مراجعه کنید. 

    مسئولانه بودن داده در مراحل یک پروژه 

    موسسه The Engine Room نیز با تیمی شامل ۱۲۰۰ کارشناس در بخش‌های متعدد، در حال پیشبرد اهمیت اخلاقیات در علم داده است. برنامه داده‌ی مسئولانه این موسسه Responsible Data program، افراد دغدغه‌مند در زمینه استفاده امن و اخلاقی از داده برای ایجاد دگرگونی اجتماعی را گرد هم می‌آورد و فضایی را ایجاد می‌کند که این افراد به بررسی چالش‌های این مسیر پرداخته و منابع و ابزارهایی کاربردی‌ برای رفع چنین چالش‌هایی را خلق کنند. 

    سارا در صحبت‌های خود توضیح داد که موسسه The Engine Room در ابتدا با رویکردی حقوق-محور کار خود را آغاز کرد اما بعد به رویکرد عدالت-محور روی آورد تا از انواع گسترده‌ پویش‌هایی که در چرخه‌ تولید داده نقش دارند، آگاهی داشته باشد. طبق اظهارات این موسسه، داده مسئولانه می‌بایست با اصول توانمندسازی و پرهیز از آسیب، پی‌ریزی شود. بدین ترتیب، کاربران داده این توانایی را کسب خواهند کرد تا به صورت فعال مشارکت داشته و روند تولید داده با کمک آنها دوباره طراحی گردد. و از طرف دیگر، از شیوه‌هایی که کار با داده و تکنولوژی در آن‌ها می‌تواند موجب آسیب و یا وخیم‌تر شدن شرایط گردد، اجتناب شود:

    ۱. به تناسب قدرت میان سوژه داده و بکاربرنده‌ی داده توجه کنید.
    ۲. با انجام مداوم ارزیابی‌هایی که ریسک‌های موجود را می‌سنجند، از مجهولات ناشناخته پرهیز کنید.
    ۳. اصل احتیاطی را به کار بندید، به این منظور که بتوانید آسیب‌های موجود را آنگونه که باید و شاید ارزیابی کنید.
    ۴. به جای اینکه تنها به خاطر سرعت بخشیدن به کار خود، عمل کنید، روحیه نوآوری متفکرانه را به کار ببندید.
    ۵. موضوع گوناگونی در اقشار جامعه و تعصب را فراموش نکنید تا بتوانید دیدگاه‌هایی را که جایشان در این مبحث خالی می‌باشد، تشخیص دهید. 
    ۶. به دنبال ایجاد آداب بهتر باشید چرا که داده مسئولانه در شرایط مختلف معانی مختلفی خواهد داشت و باید در فرهنگ‌ها و بسترهای مختلف، به صورت متفاوتی بررسی شود. 

    سارا نکات دیگری را نیز برای بکار گرفتن در هر مرحله از چرخه یک پروژه با شرکت‌کنندگان این گردهمایی به اشتراک گذاشت:
     
  • طراحی: به چه نوع داده‌‌ای نیاز دارید؟
  • جمع‌آوری: آیا رضایت آگاهانه را کسب کرده‌اید؟
  • انتقال و ذخیره‌سازی: داده‌های خود را در کجا نگهداری می‌کنید؟
  • تجزیه و تحلیل و بایگانی: آیا داده شما هویت-روبی و گمنام سازی شده است؟
  • پایان چرخه: وقتی پروژه‌ای را به پایان می‌رسانید، با داده‌ها چه می‌کنید؟

    برای اطلاعات بیشتر در این زمینه به اسلایدهای سارا رجوع کنید. 

    اخلاقیات داده در بخش بهداشت

    هرچند که سازمان‌های بخش بهداشت خیلی وقت است که درباره چگونگی جمع‌آوری و استفاده از داده در حال تامل هستند، اما کاربرد اخیر فناوری برای ردگیری مبتلایان به کووید-۱۹، ضرورت پرداختن به این مسئله را تسریع بخشیده  است. در ماه مارس ۲۰۲۰ سازمان جهانی بهداشت (WHO) گروه عملیاتی ویژه‌ای را به تیم از پیش موجود خود اضافه کرد تا دستورالعملی را درباره استفاده اخلاقی از هوش مصنوعی در بخش بهداشت فراهم کرده و اصولی را برای مدیریت اخلاقی داده‌های مربوط به کووید-۱۹ بوجود بیاورند. ماریا یکی از افرادی بود که در این گروه عملیاتی به نمایندگی از سازمان خود Derechos Digitales شرکت داشت. او دو موضوع کلیدی برای بکارگیری اصول اخلاقی داده در بخش بهداشت را به کمیته اجرایی منشور بین‌المللی داده باز IWG معرفی کرد:
     
  • به شرایط و بستر مورد نظر توجه کنید: ساختن یک دستورالعمل همیشه می‌بایست با در نظر گرفتن تناسبات و هنجارهای سیاسی و اجتماعی همراه باشد، چرا که قواعد می‌توانند بر اساس واقعیت‌های ذینفعان و همینطور نوع زیرساخت‌های موجود در یک بستر، تغییر کنند. 
  • به جزئیات توجه کنید: تعداد قواعدی که قرار است بکار گرفته شود، محدودیت‌های زمانی برای اجرای قواعد در یک سیستم، و همینطور معیارهایی که تعیین می‌کنند چطور قواعد را میتوان به اجرا گذاشت، همه و همه عوامل کلیدی هستند که در اتخاذ اصول اخلاقی داده به شکلی موفق تاثیر گذارند. 

    ماریا همچنین پیشنهاداتی در مورد اتخاذ اصول اخلاقی داده برای شرکت‌کنندگان داشت:
     
  • مقررات استفاده: داده تنها برای مقصودی می‌تواند مورد استفاده قرار بگیرد که درباره آن موافقت شده است.
  • بالا بردن میزان مسئولیت: از کاربران داده بخواهید تا اطلاعات را به شکلی فراهم کنند که برای همه‌ی کاربران یک سیستم قابل فهم باشد.
  • دقت: فقط داده‌هایی را جمع‌آوری و استفاده کنید که در پروژه‌‌‌تان  موضوعیت داشته باشند.
  • پاسخگویی و نظارت: با گروه‌های ذینفع در خارج از سیستم خود مشورت و همکاری کرده تا قواعد را به صورت گروهی طراحی کنید.

    اخلاقیات داده: استفاده بهینه از داده

    «اولیویه» در آغاز به گروه یادآوری کرد که اخلاقیات داده نه تنها می‌بایست به اجتناب از رسوایی‌ها بپردازد، بلکه با استفاده صحیح از اطلاعات، باید موجب بوجود آمدن اعتماد گردد. حقیقت این است که داده و اعتماد، پا به پای هم پیش می‌روند و تنها راهی بتوانیم بهترین نتیجه را از داده بگیریم زمانی است که این داده را برای افرادی فراهم کنیم که بیشترین نیاز را به آن دارند. ما علاقه‌مندان علم داده هم‌چنین می‌بایست اتخاذ اصول اخلاقی داده را ترویج دهیم چرا که این موضوع بخش هسته‌ای در ایجاد اعتماد عمومی و مقابله با عواملی است  که افراد را از جمع‌آوری، اشتراک گذاری و استفاده از داده، دلسرد می‌کنند. 

    اما ما در این زمینه نیاز به تلاشی همگانی داریم. باید به دنبال ایجاد تعادل بهتری میان دستورالعمل‌های اخلاقی، چارچوب‌های بین‌المللی حقوق بشر و همینطور مقررات محلی باشیم. برای اینکه بتوانیم حقوق بشر در سطح بین‌المللی و فناوری‌های نوین را در کنار هم داشته باشیم، بکاری دستورالعمل‌های اخلاقی، واجب است، تا بتوانیم اصول اخلاقی مناسبی در داده بوجود آوریم که در نهایت به قوانینی لازم‌الاجرا تبدیل شوند. 

    ما همچنین می‌بایست بحث را فراتر از موضوع حریم خصوصی پیش بریم. هر چند حریم خصوصی نقطه آغاز در اخلاقیات داده به شمار می‌آید، اما بررسی تاثیرات کار با داده روی گروه‌های مختلف نشان می‌دهد که اخلاقیات داده، موضوعات گسترده‌تری مانند حقوق بشر و همینطور معضلات ملموسی مانند دسترسی به بهداشت و درمان  را نیز شامل می‌شود، موضوعی که در مورد این همه‌گیری اخیر که همه‌ ما را درگیر کرده است، از ضرورت ویژه‌ای برخوردار است. 

    خلاصه آنکه، برای عملی کردن اخلاقیات داده، باید تاثیرات مخرب و تعصباتی که ناخواسته در سیستم‌ها، سیاست‌گذاری‌ها و خدمات ایجاد شده‌اند را کاهش دهیم تا جوامع عادلانه‌تری خلق کنیم. اینجاست که قدرت واقعی داده خود را آشکار می‌کند.