• امروز:9,999
  • کل:5,197,693
الگوریتم‌ها چگونه به‌جای ما تصمیم‌گیری می‌کنند

الگوریتم‌ها چگونه به‌جای ما تصمیم‌گیری می‌کنند


خطاهای انسانی ما را راغب‌به استفاده از نرم‌افزارهای هوشمند کرده‌اند؛ اما هم‌اکنون خطر این است که الگوریتم‌ها برای انسان تصمیم بگیرند.

دیونیسوس دمیتس، مدرس مدیریت سیستم‌ها از دانشگاه هال است. او در مقاله‌ای به‌دنبال پژوهش‌های خود به بررسی تاثیر الگوریتم‌ها در قدرت تصمیم‌گیری انسان می‌پردازد. آنچه در ادامه می‌خوانید، از زبان او بیان شده است.

هنوز می‌توانم شگفتی خودم را به‌یاد بیاورم؛ هنگامی‌که کتاب The making of a fly از پیتر لارنس، متخصص زیست‌شناس فرگشتی با قیمت نجومی ۲۳٬۶۹۸٬۶۵۵.۹۳ دلار به اضافه ۳/۹۹ دلار هزینه حمل‌ونقل در سایت آمازون ارائه شد. درحالی‌که همکاران من در سراسر دنیا به همان نسبت افسرده می‌شوند که یک کتاب علمی می‌تواند به چنین بازیچه‌ای تبدیل شود، در حقیقت این قیمت گزاف را باید نتیجه الگوریتم‌های اصلاحی دانست که یک‌دیگر را پشتیبانی می‌کنند و گاهی مارپیچی را بنا می‌کنند که هر لحظه با نسبت بیشتری از روال معمول خارجی می‌شود. این نشان می‌دهد که فقط کارکنان فروش شخصیتی خلاق ندارند بلکه الگوریتم‌ها نیز می‌توانند بلندپروازی شگفت‌آوری را تجربه کنند.

<a class='tagColor' href='/Tags/Archive/الگوریتم'>الگوریتم</a>‌ها

این نمونه فراموش‌نشدنی تشخیص داده و اصلاح شد؛ اما اگر چنین تداخل الگوریتمی‌ به‌طور پیوسته اتفاق می‌افتد و البته دفعاتی نیز وجود داشته باشد که ما متوجه وقوع آن‌ها نشویم، چه سرانجامی در‌پی خواهد داشت؟ اگر واقعیت زندگی ما به‌طور فزاینده‌ای با قدرت الگوریتم‌ها ساخته شود چقدر طول می‌کشد تا هویت انسانی و اختیار ما از بین برود؟

من و همکارم، پروفسور آلن لی با الهام از چنین نمونه‌هایی، اخیراً کشفی مطرح کردیم و آثار عمیق‌تری از تاثیر فناوری الگوریتم را در مقاله‌ای در ژورنال Association for Information Systems منتشر کردیم. کشف ما باعث شد به‌ این نتیجه برسیم که در طول زمان نقش فناوری اطلاعات و انسان‌ها به‌جای پیشرفت نوعی پسرفت است. در گذشته ما انسان‌ها از فناوری همچون ابزاری استفاده می‌کردیم، اکنون فناوری پیشرفته به نقطه‌ای رسیده است که از ما استفاده می‌کند و حتی فراتر از آن، ما را کنترل می‌کند.

اکنون، الگوریتم‌ها برای انسان‌ها تصمیم می‌گیرند

ما انسان‌ها تنها در معرض تصمیم‌هایی نیستیم که ماشین‌ها برای ما می‌گیرند. آن‌ها نقش بسیار عمیق‌تری در زندگی ما دارند و به‌واسطه آن‌ها در مسیرهای غیرقابل‌ پیش‌بینی قرار می‌گیریم. به‌جای‌آنکه نقش کارگردان را در سیستم تصمیم‌گیری داشته باشیم، این ما هستیم که بازیچه محیط شدیم. ما به‌تدریج توانایی تصمیم‌گیری خودمان را محدود کردیم و الگوریتم‌ها این فرصت را در اختیار گرفته‌اند. ما تبدیل‌به انسان مصنوعی یا مصنوعات انسانی شدیم که توسط فناوری شکل گرفته‌ایم و البته توسط آن‌ها نیز مورد استفاده قرار می‌گیریم.

مثال‌های از این دست فراوانند، هوش مصنوعی که به‌تدریج جایگزین تحلیل‌گران قانون می‌شود به‌این معنا است که در یک دفاع موفق حقوقی یا پیگیری یک پرونده می‌توان تا حدی به الگوریتم‌ها اعتماد کرد. حتی به نرم‌افزارها این فرصت داده شده که آینده جنایتکاران را پیش‌بینی کنند و درنهایت نیز کنترل آزادی انسان‌ها در رد عفو مشروط یا اعطای آن به زندانیان وابسته به تصمیم آن‌هاست. به‌این‌ترتیب ذهن قاضی با مکانیزم تصمیم‌های از قبل گرفته‌شده شکل می‌‌گیرد. قضات نیز نمی‌توانند آن را درک کنند؛ چراکه فرایندی پیچیده است و داده‌های بسیاری در آن نهفته‌ است.

کشف تاریخچه انسان در آفریقا با DNA

وابستگی بیش‌ازحد به فناوری در بازار کار، باعث شده که بعضی از بزرگ‌ترین شرکت‌ها به‌وسیله نرم‌افزارها به فیلتر رزومه‌‌ها نیز دست بزنند که نتیجه آن، روال استخدامی است که در آن هرگز حتی به استعدادهای بالقوه در جزئیات رزومه متقاضیان توجه نخواهد شد. این‌کار نه‌تنها باعث‌ می‌شود معاش مردم تحت‌تاثیر تصمیم‌ها و فرصت‌های ماشینی قرار گیرد، بلکه این امکان را نیز ایجاد می‌کند تا مشکلاتی رخ دهد که حتی خود شرکت‌ها نیز تمایلی به مواجهه با آن‌ها ندارند. همانند اتفاقی که در آمازون تجربه شد و سیستم هوشمند استخدام از متقاضیان کار مونث استقبالی نکرد.

همان‌طور که در گزارش‌های خبری نیز منعکس‌ شده، شرکت‌های که در دنیای وب خدمات می‌دهند، از ابزاری به‌نام تجزیه‌وتحلیل احساسات خودکار استفاده می‌کنند و به‌دنبال پیدا کردن یک معنی یا مفهوم از احساسات خوب و بد کاربران هستند تا درنهایت به حقایق بیشتری دست پیدا کنند. این ابزارها نیز به‌نوبه‌خود توسط الگوریتم‌های تجاری مورد استفاده قرار می‌گیرند که به‌صورت خودکار تصمیم‌های مالی را اتخاذ می‌کنند؛ بدون اینکه انسان‌ها واقعا اخبار را بخوانند.

عواقب ناخواسته

در حقیقت، الگوریتم‌های عملیاتی بدون دخالت انسان نقش مهمی را در بازی‌های مالی برعهده دارند. به‌عنوان مثال ۸۵ درصد از همه تجارتی که در بازار ارز خارجی وجود دارد، به‌تنهایی توسط الگوریتم‌ها انجام می‌شود. از سویی مسابقه تسلیحات الگوریتم در حال رشد برای توسعه سیستم‌های پیچیده به‌منظور رقابت در بازاها در جریان است. این بدان معنا است که مبالغ بزرگی از پول براساس تصمیم‌های ماشین‌ها تخصیص داده می‌شود.

در مقیاسی کوچک‌تر، مردم و شرکت‌هایی که این الگوریتم‌ها را می‌سازنند، هنوز توانایی تاثیرگذاری دارند تا چه‌کاری انجام دهند و حتی چگونگی آن را مشخض کنند؛ اما از آنجا که هوش مصنوعی سهم عمده‌ای در برنامه‌نویسی نرم‌افزارها ایفا می‌کند تا بتواند فرایندها را به‌صورت خودکار تکمیل کند، ما از دانستن بیشتر حقایق پشت‌پرده‌ی عوامل تصمیم‌گیری محروم هستیم. همانند همه تکنولوژی‌ها، این شرایط نیز می‌تواند منجر به‌عواقب ناخواسته‌ای شود که فراتر از انتظارات پیش‌بینی‌شده طراحان است.

سقوط وال استریت

نگاهی به سقوط ناگهانی شاخص میانگین صنعتی داو جونز در سال ۲۰۱۰، نمایشی از تاثیر الگوریتم‌ها است. عملکرد الگوریتم‌ها باعث شد که شاخص واحد بزرگ‌ترین سقوط خود را در تاریخ با لغزشی در حدود ۹ درصد در عرض چند دقیقه تجربه کند. اگرچه اکثر این افت تا آخر روز جبران شد اما تنها یک تحقیق ۵ ماهه می‌تواند توضیح دهد دقیقا چه عاملی موجب این نزول شد، چراکه انواع نظریه‌های دیگر نیز مطرح شده است؛ اما مسله اینجا است که الگوریتم‌هایی که مشکلات اولیه را رقم زدند، مشکلی نداشتند و اشکالی نیز در برنامه‌نویسی آن‌ها وجود نداشت.

این رفتار، ماحصل اثر متقابل میلیون‌ها الگوریتم تصمیم‌گیری بود که هرکدام مسیرهای غیر‌قابل پیش‌بینی را طبق منطق خودشان پیگیری می‌کردند و درنهایت دست به خلق مارپیچی نزولی یا تجربه‌هراسی برای بازار شدند. اما شرایطی که باعث وقوع و استفاده از این الگوریتم‌ها شد، این بود که در طول سال‌ها، افرادی که سیستم تجاری را مدیریت می‌کردند، به این باور رسیدند که تصمیم‌های انسانی همچون مانعی برای کارآیی بازار هستند.

اگر نگاهی به سقوط سال ۱۹۸۷ داشته باشیم، یعنی هنگامی‌که بازار سهام ایالات متحده در حدود ۲۲/۶۱ درصد افت کرد، آشفته‌بازاری را می‌بینیم که موج وحشت را به همه سطوح جامعه منتقل کرد. از‌همین‌رو برخی از کارگزاران وال استریت از برداشتن گوشی‌های تلفن خود دست برداشتند تا سفارش مشتریان وحشت‌زده برای فروش سهام متوقف شود؛ هرچند به‌اعتبار آن‌ها نیز لطمه می‌خورد. این رفتار آغازگر روندی جدیدی در تصمیمات بود، همان‌طور که مایکل لوئیس در کتابش به‌نام فرزندان شوک (Flash Boys) به آن اشاره کرد و نوشت: «کامپیوترها به‌طور کامل جایگزین مردم شدند.»

ارزهای رمزپایه و انسان ها

دنیای مالی، سرمایه‌گذاری هنگفتی در کابل‌های خیلی سریع و ارتباطات مایکرویو انجام داده تا الگوریتم‌ها بتوانند در کسری از هزارم ثانیه، دستور‌های خود را ارسال کنند. هنگامی این سرعت مهم است که بدانیم یک شخصیت انسانی به ۲۱۵ هزارم ثانیه برای لمس دکمه‌ای که تقریباً بی‌فایده است، نیاز دارد. گویی تنها هدف باقی‌مانده این است که وقتی سیستم با تصمیم‌های فناوری به خطر می‌افتد، به تنظیم مجدد الگوریتم‌ها دست بزنیم.

نیاز است که مرزهای جدیدی میان انسان و فناوری حک شود و ما باید با دقت فکر کنیم که وابستگی شدید به نرم‌افزار ما را به کجا خواهد برد؟ همان‌طور که تصمیم‌های انسانی با الگوریتم جایگزین می‌شوند و ما تبدیل‌به ابزاری می‌شویم که حتی زندگی‌مان نیز توسط ماشین‌ها شکل گرفته‌ است و در معرض پیامدهای ناخواسته آن‌ها قرار می‌گیریم، پس باید با حقیقت سلطه‌ی فناوری نیز روبه‌رو شویم. ما نیاز داریم که تصمیم بگیریم؛ آن‌ هم‌ اکنون که فرصت آن را داریم. باید بدانیم که این وقایع چه نتایجی هم از دیدگاه فردی و هم از دیدگاه جمعی برای ما در برخواهد داشت.


منبع:زومیت

نظرات

    نظر شما

    لطفا فیلدهای ستاره دار را پر کنید *

    ثبت شد منتظر تایید بمانید

    داغ

    • ممنوعیت واردات خودروهای خارجی لغو نخواهد شد

      برخلاف مصوبه‌ی مجلس برای کاهش هزینه‌ی واردات خودروهای برقی و هیبریدی، مدیرکل دفتر مقررات صادرات و واردات سازمان توسعه‌ی تجارت، لغو ممنوعیت واردات هر نوع خودرو خارجی را تک...

      ادامه
    • نیکی لائودا راننده افسانه‌ای فرمول یک درگذشت

      دارنده‌ی سه عنوان قهرمانی فرمول یک و اسطوره‌ی دنیای موتوراسپرت، ساعاتی پیش در ۷۰ سالگی چشم از جهان فروبست. نیکی لائودا نماد استقامت و پشت‌کار برای ورزش‌کاران جهان محسوب م...

      ادامه
    • توشیبا سهام فروخته‌شده بخش حافظه را از اپل پس می‌گیرد

      سال گذشته توشیبا بخش حافظه‌ی خود را به چهار شرکت فروخت و اکنون قصد دارد سهام فروخته‌شده را پس بگیرد. اپل یکی از چهار شرکتی است که سهام خریداری‌شده‌ی شرکت ژاپنی را پس خواه...

      ادامه
    • ارتباط تنگاتنگ التهاب با افسردگی

      نتایج پژوهشی جدید نشان می‌دهد زنان بیش از مردان تحت‌تأثیر ارتباط بین التهاب و افسردگی قرار می‌گیرند.ارتباط بین افسردگی و واکنش التهابی در بدن همچنان قوی‌تر می‌شود و ...

      ادامه
    با کسب سالها تجربه و کار در زمینه های مختلف اینترنت و برنامه نویسی بر آن شدیم تا این پرتال خبری هوشمند را برای رساندن آخرین اخبار سیاسی ، اقتصادی ، فناوری ، ورزشی و سلامت از منابع موثق ، به شما عزیزان عرضه کنیم

    اطلاعات تماس

    منتظر انتقادات و پیشنهادات و تبلیغات شما هستیم
    • آذربایجان شرقی - تبریز
    • 9357375624 98+
    • info@Gazete.ir