هوش مصنوعی می‌تواند به شما کمک کند زندگی‌تان را بهینه کنید؛ اما می‌تواند داده‌های شما را نیز به سلاح تبدیل کند.

در بمبئی، در سال ۲۰۴۱، خانواده‌ی نایانا با ثبت‌نام در شرکت بیمه‌ی جدیدی به نام بیمه‌ی گانش، حق بیمه‌های خود را به‌شدت کاهش دادند. شرط پنهان چه بود؟ خانواده باید موافقت می‌کردند که تمام داده‌های شخصی خود را با شرکت به اشتراک بگذارند.

گانش به خانواده دستور داد برای همه‌چیز، از سرمایه‌گذاری گرفته تا پیداکردن بهترین پیشنهادهای خرید در سوپرمارکت‌ها، از مجموعه‌ی مشخصی از اپلیکیشن‌ها استفاده کنند؛ طی چند هفته‌ی بعد، گوشی‌های خانواده مدام با اعلان توصیه‌ها صدا می‌دادند. اپلیکیشن‌ها به اعضای خانواده می‌گفتند چه زمانی آب بنوشند؛ به پدربزرگ نایانا دستور می‌دادند آهسته‌تر رانندگی کند و آن‌قدر بابت سیگارکشیدن به پدر نایانا گیر دادند که سرانجام سیگار را ترک کرد. با هر تصمیم سالمی که خانواده می‌گرفتند، حق بیمه‌هایشان کاهش می‌یافت. به نظر می‌رسید این وضع برای همه برد‌ـ‌برد است. اما وقتی نایانا عاشق مردی شد که در محله‌ای کم‌برخوردارتر زندگی می‌کرد، حق بیمه‌های خانواده سر به فلک کشید. هوش مصنوعی به‌نحوی استنباط کرده بود که مرد جایگاه اجتماعی متفاوتی دارد و این تفاوت را خطری برای سلامت خانواده تعبیر کرده بود.

پیام اصلی این است: هوش مصنوعی می‌تواند به شما کمک کند زندگی‌تان را بهینه کنید؛ اما می‌تواند داده‌های شما را نیز به سلاح تبدیل کند. داستان نایانا تصویری هولناک از این موضوع ارائه می‌دهد که هوش مصنوعی چگونه می‌تواند تبعیض موجود در جامعه را بازتولید کند. یکی از مهم‌ترین پیشرفت‌های هوش مصنوعی در دهه‌ی گذشته، یادگیری عمیق بوده است. یادگیری عمیق به کامپیوترها امکان می‌دهد پیش‌بینی کنند، داده‌ها را دسته‌بندی کنند و الگوها را تشخیص دهند. یادگیری عمیق همان فناوری‌ای است که فیس‌بوک برای تولید توصیه‌های شخصی‌سازی‌شده و به‌حداکثررساندن زمانی که در شبکه‌اش می‌گذرانید از آن استفاده می‌کند. این پلتفرم با تحلیل تک‌تک کلیک‌های شما و مقایسه‌ی داده‌هایتان با داده‌های میلیون‌ها نفر دیگر در سامانه‌اش، می‌تواند به‌دقت پیش‌بینی کند چه چیزی شما را درگیر خواهد کرد.

یادگیری عمیق می‌تواند مزایای عظیمی داشته باشد. هوش مصنوعی می‌تواند میلیون‌ها نقطه‌ی داده را تحلیل کند و ارتباطاتی را پیدا کند که از ذهن انسان پنهان می‌مانند. اما هوش مصنوعی ظرافت و پیچیدگی تفکر انسانی را ندارد. هوش مصنوعی نمی‌تواند از تجربه‌ی شخصی، مفاهیم انتزاعی یا عقل سلیم بهره بگیرد. و هوش مصنوعی در برابر سوگیری و تبعیض آسیب‌پذیر است. در داستان نایانا، اپلیکیشن نمی‌دانست که مرد موردعلاقه‌ی نایانا از «کاست» دیگری است و این پیوند از نظر اجتماعی نامطلوب تلقی خواهد شد.

اما اپلیکیشن با تحلیل داده‌های خانواده‌ی مرد و ردیابی محل زندگی مرد، باز هم این پیوند را «تهدیدی» برای سلامت خانواده‌ی نایانا معرفی کرد. یادگیری عمیق در سال‌های آینده فقط فراگیرتر و قدرتمندتر خواهد شد. این پرسش که چگونه می‌توان یادگیری عمیق را برای کل جامعه سودمند کرد، یکی از فوری‌ترین دغدغه‌های ما در آینده‌ی نزدیک خواهد بود.