حدود ۱۰ سال پیش، جف بیزوس سوال فلسفی خود را چنین ارائه داد: «سوال متداولی که دائماً در دنیای کسب و کار پرسیده می شوید این است،: چرا؟ این سوال خوبی است اما یک سوال به همان اندازه خوب این است: چرا که نه؟». از آن به بعد غول های عرصه تکنولوژی مانند آمازون گام های قابل توجهی در زمینه توسعه و ایجاد تکنولوژی های جدید انجام داده اند که همگی باعث شده اند محدودیت های پیشرفت جابجا شوند. تکنولوژی های در حال ظهوری مانند هوش مصنوعی و طراحی به کمک کامپیوتر باعث تغییر شکل بازارها شده و کمپانی ها را وادار کرده که با صرف صدها میلیون دلار این تکنولوژی ها را به خدمت بگیرند.
اما در سال های اخیر، کارشناسان و رهبران صنایع پرچم های خطر را در مورد روش های بکارگیری این تکنولوژی ها یا پتانسیل خطرشان بالا ببرند. قوانین و مقررات نیز ذاتاً با سرعتی بسیار کمتر از پیشرفت تکنولوژی شکل می گیرند. بدین ترتیب بسیاری از اجزای قانونگذاری هنوز در ابتدای راه مقابله با تاثیرات منفی تکنولوژی هایی هستند که سال هاست زندگی ما را تحت تاثیر خود قرار داده اند. در ادامه، قانونگذاران و رهبران سیلیکون ولی باید با ریسک های مربوط به تکنولوژی های جدید که هر روز به فروش می رسند مواجه شوند. در ادامه این مطلب قصد داریم شما را با تکنولوژی هایی در حال ظهور آشنا کنیم که زنگ های خطر را برای کارشناسان به صدا درآورده اند.
هوش مصنوعی می تواند استقلال انسان ها را به شکل ترسناکی افزایش دهد
یک دهه پیش، هوش مصنوعی یک تکنولوژی بسیار نوپا بود که در ابزارهای بسیار اندکی به کار گرفته شده بود. اکنون اما هوش مصنوعی یک واژه چتری است که تکنولوژی های جداگانه بسیاری را در بر گرفته که به طور روزانه با آن ها سروکار داریم. نگرانی ها در مورد هوش مصنوعی موضوع تازه ای نیست و از زمان ساخت فیلم «۲۰۰۱: یک اودیسه‌ی فضایی» (۲۰۰۱: A Space Odyssey) نگرانی هایی در مورد قدرت گرفتن ربات ها و تقابل آن ها با انسان ها وجود داشته است. این ترس که کامپیوترها روزی در آینده از لحاظ هوش و جسم به قدرتی فراتر از قدرت انسان دست یابند نیز از گذشته مورد توجه بوده است.
استیفن هاوکینگ در کتاب «پاسخ های کوتاه به سوالات بزرگ» (Brief Answers to the Big Questions)، تمثیلی را در مورد این باور انسانی که می توانیم در صورت مواجهه با کامپیوترهایی که بیش از حد قدرتمند باشند با کشیدن سیمشان از منبع تغذیه (کنایه از خاموش کردن سیستم های پشتیبانی شان که توسط انسان ها کنترل می شوند) آن ها را متوقف کنیم ارائه کرده است: «مردم از کامپیوتر پرسیدند؟ آیا خدا وجود دارد؟ و کامپیوتر جواب داد بلکه الان وجود دارد و کابل را به دوشاخه متصل کرد». کارشناسان از قبل نیز در مورد استفاده های کنونی از هوش مصنوعی هشدار داده و اعلام کرده اند که این موضوع حریم خصوصی و حکمرانی انسان را به چالش می کشند.
تکنولوژی های تشخیص چهره در حال بازتعریق درک ما از حریم خصوصی هستند
کامپیوترها اکنون می دانند که چطور چهره شما را تشخیص داده و از دیگر چهره ها متمایز سازند، نمونه آن در فیلترهای اسنپ چت و باز کردن قفل تلفن های هوشمند دیده می شود. همچنین از این تکنولوژی به طور فزاینده ای توسط نیروهای پلیس برای شناسایی مظنونین و تحت نظر داشتن افراد استفاده می شود. در یکی از مشهورترین موارد، کمپانی آمازون از نرم افزار خود در زمینه تشخیص چهره با نام Rekognition رونمایی کرد که در اختیار نیروهای پلیس و سازمان های دولتی قرار گرفته و البته این کار با اعتراض مدافعان حریم خصوصی و کارمندان خود آمازون مواجه شد. در گزارشی که توسط تیمی از محققان تهیه شده در مورد خطرات تکنولوژی تشخیص چهره چنین گفته شده است: «وقتی که برای قضاوت در مورد زندگی درونی یا ارزش انسان ها به سیستم های هوشمند جعبه سیاهی تکیه می کنید چه اتفاقی رخ می دهد. برخی از این محصولات تئوری های عمیقاً بحث برانگیزی را در متن خود دارند که از دیرباز در نوشتجات دنیای روانشناسی مورد تردید قرار گرفته اند اما استارتاپ های هوش مصنوعی آن ها را به مثابه واقعیت ها در نظر می گیرند».
دولت ها در حال اجازه دادن به سیستم های کامپیوتری برای تصمیم گیری مستقل در مورد موضوعاتی هستند که زندگی افراد را تحت تاثیر قرار می دهند
برای سال ها، تمی دابز، زنی اهل آرکانزاس مبتلا به فلج مغزی، هفته ای ۵۶ ساعت مراقبت خانگی را که توسط یک برنامه دولتی افراد ناتوان برای او فراهم کرده بود دریافت می کرد. سپس در سال ۲۰۱۶، این میزان بدون هیچ توضیحی به ۳۲ ساعت در هفته کاهش یافت و زندگی او را دچارت تنش کرد. تصمیم گیری در مورد کاهش ساعات مراقبت خانگی از این زن ناتوان توسط یک بوروکرات یا قانونگذار گرفته نشده بود. این تصمیم را یک سیستم کامپیوتری گرفته شد که به تازگی توسط دولت به کار گرفته شده بود. دابز و دیگر شهروندان آرکانزاسی در نهایت در یک دعوای حقوقی برای بازگرداندن تصمیمات کامپیوترهای هوشمند پیروز شدند اما صدمه ای که از قبل به کیفیت زندگی آن ها وارد شد قابل جبران نبود. اشتباهاتی نظیر آنچه که در مورد خانم دابز رخ داد همان چیزی است که کارشناسان از آن به عنوان یکی از خطرات تصمیم گیری های حکومتی توسط هوش مصنوعی یاد می کنند، سیستم هایی که استفاده از آن ها در آژانس های محلی و محلی دولتی در حال افزایش است.
محتواهای مبتنی بر الگوریتم در حال سوء استفاده گسترده از مردم هستند
هر کاربر معمولی توئیتر، فیسبوک و اینستاگرام می داند که چه اکانت هایی را دنبال کرده و چه محتواهایی را برای مطالعه انتخاب کرده است. اما شاید هیچ ایده ای در این مورد نداشته باشند که چرا برخی محتواهای خاص در صفحه آن ها ظاهر می شود و چرا پست ها به ترتیبی که آن ها می بینند ظاهر می شوند. جواب این است که پست ها در رسانه های اجتماعی بر اساس الگوریتم های مبتنی بر هوش مصنوعی ظاهر می شوند که کاربران معمولی این رسانه ها اطلاع چندانی از آن ها ندارند. در حالی که غول های رسانه های اجتماعی از الگوریتم ها برای سرگرم نگه داشتن کاربران و انتشار تبلیغات استفاده می کنند، کارشناسان هشدار می دهند که این الگورریتم ها این پتانسیل را دارند که برای انتشار اطلاعات غلط یا سوء استفاده از افراد و تغییر افکار آن ها به کار گرفته شوند.
نرم افزارهای جاسوسی، نرم افزارهای اخاذی و هک ها بسیار پیچیده و پیشرفته می شوند
در حالی که روزبروز بر پیچیدگی تکنولوژی افزوده می شود، روش های مورد استفاده هکرها برای به سرقت بردن داده های افراد یا به گروگان گرفتن زیرساخت های تکنولوژی برای دریافت رشوه و دیگر مقاصد مالی نیز به همان اندازه پیشرفته و پیچیده شده است. در سال های اخیر، هک کردن همواره در حال افزایش بوده و بسیار سودآور شده است. همچنین کارشناسان هشدار می دهند که شرکت ها و دولت ها به اندازه کافی برای مراقبت از سیستم هایشان در مقابل هکرها تلاش نمی کنند.
پرینت سه بعدی و طراحی به کمک کامپیوتر اثرات جانبی ناخواسته ای دارند
وقتی که در سال های اخیر تکنولوژی پرینت سه بعدی مورد توجه قرار گرفت، به عنوان یک نوآوری که افراد را برای ساخت محصولاتی دلخواهشان توانمند خواهند ساخت از آن یاد شد. اما این توانمندسازی نقطه ضعغی نیز دارد. نمونه بسیار جنجالی آن توانایی تولید سلاح با استفاده از تکنولوژی پرینت سه بعدی بود که اکنون اگر چه غیرقانونی است اما از لحاظ تکنیکی امکان پذیر است. علاوه بر این، کارشناسان در مورد اینکه پرینت سه بعدی به مقدار قابل توجهی دورریز دارد، مصرف انرژی قابل توجهی داشته و محصولات مضر پلاستیکی و خروجی های مضری دارد هشدار داده اند.
ویرایش ژنی می تواند باعث تغییر جامعه شده و عوارض جانبی آن هنوز مشخص نیستند
از زمان شکل گیری علم ژنتیک، محققان در مورد امکان ویرایش دی ان ای افراد برای افزایش طول عمر یا درمان بیماری ها سخن گفته اند. اخیراً این رویا به حقیقت بدل شده و یک دانشمند چینی توانسته دی ان ای دو نوزاد انسانی را در تلاش برای ایمن کردن آن ها در برابر بیماری ایدز دستکاری کرده است. با این وجود، این تکنولوژی نوظهور نیز می تواند خطرات زیادی داشته باشد. در مورد درمان بیماری ایدز، مطالعات جدید نشان می دهد که رویه ایمن کردن افراد در مقابل این بیماری می توان مقدار قابل توجهی از عمر آن ها را کاهش دهد. همچنین ناظران عرصه تکنولوژی نگرانی خود را در مورد اینکه ممکن است افراد در آینده ای نزدیک دست به دستکاری ژنتیکی زیبایی محور نوزادان متولد نشده خود بزنند نیز ابراز نگرانی کرده اند که می تواند نوعی اصلاح نژاد انسانی باشد.
بدون نظر