دوره 18، شماره 59 - ( 1-1403 )
جلد 18 شماره 59 صفحات 235-217 |
برگشت به فهرست نسخه ها
Download citation:
BibTeX | RIS | EndNote | Medlars | ProCite | Reference Manager | RefWorks
Send citation to:
BibTeX | RIS | EndNote | Medlars | ProCite | Reference Manager | RefWorks
Send citation to:
Solhchi S, Biglarbeigi K, Azizi S. Artificial Intelligence Bias against Women in the Field of Health. MLJ 2024; 18 (59) :217-235
URL: http://ijmedicallaw.ir/article-1-1753-fa.html
URL: http://ijmedicallaw.ir/article-1-1753-fa.html
صلح‌چی سارا، بیگلربیگی کیان، عزیزی ستار. سوگیری هوش مصنوعی علیه زنان در حوزه سلامت. مجله علمی پژوهشی حقوق پزشکی. 1403; 18 (59) :217-235
سارا صلح‌چی1 
، کیان بیگلربیگی* 
2، ستار عزیزی3
، کیان بیگلربیگی* 2، ستار عزیزی3
1- گروه حقوق خصوصی، دانشکده حقوق و علوم سیاسی، دانشگاه علامه طباطبایی، تهران، ایران.،
2- گروه حقوق عمومی، دانشکده حقوق و علوم سیاسی، دانشگاه تهران، تهران، ایران.
3- گروه حقوق، دانشکده علوم انسانی، دانشگاه بوعلی سینا، همدان، ایران.،
2- گروه حقوق عمومی، دانشکده حقوق و علوم سیاسی، دانشگاه تهران، تهران، ایران.
3- گروه حقوق، دانشکده علوم انسانی، دانشگاه بوعلی سینا، همدان، ایران.،
چکیده:
زمینه و هدف: هوش مصنوعی یکی از بازیگران کلیدی انقلاب صنعتی چهارم است. امروزه نمی‌توان مزایای زیادی را که هوش مصنوعی برای جوامع مدرن فراهم می‌نماید، جایی که داده‌ها به گران‌بهاترین دارایی زمان ما تبدیل شده‌اند، کتمان نمود. به طور مثال باید اشاره داشت، استفاده از این فناوری در محدوه قوانین موجود به حمایت از حقوق زنان کمک می‌نماید. با این حال، هوش مصنوعی یک جنبه تاریک را نیز آشکار می‌کند؛ سوگیری‌ها، در میان خطرات دیگری که توسط هوش مصنوعی تجسم می‌یابد، می‌تواند مستقیماً بر حقوق بشر و عمدتاً حقوق آسیب‌پذیرترین گروه‌ها، از جمله زنان، به ویژه در حوزه سلامت تأثیر بگذارد. حق بر سلامت، یکی از حقوق بنیادین بشری است که از سوی نظام حقوق بین‌الملل به رسمیت شناخته شده و از جایگاه ویژه‌ای برخوردار است. این حق که توسط تمامی کشورها مورد تصدیق قرار گرفته است، مستلزم فراهم‌کردن خدمات مطلوب سلامت و در دسترس قراردادن آن برای همگان تحت شرایط برابر است. سؤال اصلی این پژوهش آن است که آیا هوش مصنوعی رویکردی خنثی یا سوگیرانه علیه زنان در حوزه سلامت دارد؟
روش: روش بررسی این پژوهش، تحلیلی ـ توصیفی می‌باشد و شیوه گردآوری اطلاعات، کتابخانه‌ای است.
ملاحظات اخلاقی: در پژوهش حاضر، جنبه‌های اخلاقی مطالعه کتابخانه‌ای شامل اصالت متون، صداقت و امانتداری رعایت شده است.
یافته‌ها: فرضیه نگارندگان آن است که به نظر می‌رسد نوعی سوگیری تبعیض‌آمیز علیه زنان در حوزه سلامت وجود دارد. به طور کلی اگر هوش مصنوعی‌ای که دارای سوگیری است و الگوریتم‌های آن با مجموعه داده‌هایی آموزش دیده‌اند که برخی از گروه‌ها را نادیده می‌گیرد، به عنوان یک رویکرد تشخیصی یا درمانی برای بیماران استفاده شود، ممکن است در تشخیص یا درمان کل بیماران، مانند اقلیت‌های قومی و جنسیتی، مهاجران، کودکان، سالمندان و افراد دارای معلولیت، نتیجه مطلوبی نداشته باشد، در نتیجه سوگیری در مراقبت‌های بهداشتی باعث می‌شود که برخی از گروه‌های بیماران، درمان پزشکی بهتری نسبت به سایرین دریافت کنند.
نتیجه‌گیری: در حالی که مزایای واقعی و بالقوه بسیاری از استفاده از هوش مصنوعی در مراقبت‌های بهداشتی وجود دارد، یک خطر مهم، تصمیم‌گیری ناقص یا بحث‌برانگیز ناشی از سوگیری‌های انسانی تعبیه‌شده در خروجی‌های هوش مصنوعی است که می‌تواند پیامدهای قابل توجهی برای مراقبت‌های بهداشتی داشته باشد، در نتیجه باید در پی جلوگیری از چنین سوگیری‌هایی بود. در اینجا چند راه حل وجود دارد که می‌توان برای کاهش و حذف سوگیری اجرا نمود: استفاده‌کردن از مجموعه داده‌های بزرگ‌تر با تنوع بیشتر؛ شفافیت؛ استفاده از اصول طراحی مبتنی بر جنسیت؛ ممیزی منظم، استفاده از دستورالعمل‌های اخلاقی؛ به کارگیری تیم‌های تحقیق متنوع؛ قانونگذاری و نظارت؛ آموزش و آگاهی؛ بهبود و به روزرسانی و در نهایت همکاری توسعه‌دهندگان و فعالان مراقبت بهداشتی به منظور جلوگیری از سوگیری، می‌توانند راهکارهای مؤثر در این باب باشد.
روش: روش بررسی این پژوهش، تحلیلی ـ توصیفی می‌باشد و شیوه گردآوری اطلاعات، کتابخانه‌ای است.
ملاحظات اخلاقی: در پژوهش حاضر، جنبه‌های اخلاقی مطالعه کتابخانه‌ای شامل اصالت متون، صداقت و امانتداری رعایت شده است.
یافته‌ها: فرضیه نگارندگان آن است که به نظر می‌رسد نوعی سوگیری تبعیض‌آمیز علیه زنان در حوزه سلامت وجود دارد. به طور کلی اگر هوش مصنوعی‌ای که دارای سوگیری است و الگوریتم‌های آن با مجموعه داده‌هایی آموزش دیده‌اند که برخی از گروه‌ها را نادیده می‌گیرد، به عنوان یک رویکرد تشخیصی یا درمانی برای بیماران استفاده شود، ممکن است در تشخیص یا درمان کل بیماران، مانند اقلیت‌های قومی و جنسیتی، مهاجران، کودکان، سالمندان و افراد دارای معلولیت، نتیجه مطلوبی نداشته باشد، در نتیجه سوگیری در مراقبت‌های بهداشتی باعث می‌شود که برخی از گروه‌های بیماران، درمان پزشکی بهتری نسبت به سایرین دریافت کنند.
نتیجه‌گیری: در حالی که مزایای واقعی و بالقوه بسیاری از استفاده از هوش مصنوعی در مراقبت‌های بهداشتی وجود دارد، یک خطر مهم، تصمیم‌گیری ناقص یا بحث‌برانگیز ناشی از سوگیری‌های انسانی تعبیه‌شده در خروجی‌های هوش مصنوعی است که می‌تواند پیامدهای قابل توجهی برای مراقبت‌های بهداشتی داشته باشد، در نتیجه باید در پی جلوگیری از چنین سوگیری‌هایی بود. در اینجا چند راه حل وجود دارد که می‌توان برای کاهش و حذف سوگیری اجرا نمود: استفاده‌کردن از مجموعه داده‌های بزرگ‌تر با تنوع بیشتر؛ شفافیت؛ استفاده از اصول طراحی مبتنی بر جنسیت؛ ممیزی منظم، استفاده از دستورالعمل‌های اخلاقی؛ به کارگیری تیم‌های تحقیق متنوع؛ قانونگذاری و نظارت؛ آموزش و آگاهی؛ بهبود و به روزرسانی و در نهایت همکاری توسعه‌دهندگان و فعالان مراقبت بهداشتی به منظور جلوگیری از سوگیری، می‌توانند راهکارهای مؤثر در این باب باشد.
موضوع مقاله:
تخصصي
دریافت: 1402/9/26 | پذیرش: 1402/12/12
دریافت: 1402/9/26 | پذیرش: 1402/12/12
ارسال پیام به نویسنده مسئول
| بازنشر اطلاعات | |
 |
این مقاله تحت شرایط Creative Commons Attribution-NonCommercial 4.0 International License قابل بازنشر است. |
