آن‌روی سکه جذابیت‌های هوش مصنوعی!

اتومبیل‌های کاملاً الکتریکی و مبتنی‌بر هوش مصنوعی طبق برنامه‌ریزی ازپیش‌تعیین‌شده کار می‌کنند. پس ‌از تولید ماشین‌های خودران و گسترش نسبی آن‌ها در کشورها و کم‌رنگ‌شدن نقش راننده‌ها در هدایت خودروها، ترس تسلط هوش مصنوعی بر انسان به ذهن برخی از تحلیلگران رسید. البته برای رسیدن به‌این‌هدف، هوش مصنوعی علاوه‌بر نیازداشتن به هوشی شبیه انسان، باید آینده را پیش‌بینی و برای آن برنامه‌ریزی هم کند. تاکنون این‌امر میسر نبوده است و با وجود همه دستاوردها هوش مصنوعی قادر به انجام هیچ‌کدام از این‌ها نیست. به‌گفته متیو اوبراین مهندس رباتیک مؤسسه فناوری جورجیا هدف نهایی هوش مصنوعی عمومی مشخص نیست. او با اعلام پیدا‌نشدن روش ایجاد هوشی قابل‌انطباق عمومی، از کار روی ASI (ابرهوش مصنوعی) خبر داد. به‌گفته جورج مونتانز دانشمند داده مایکروسافت، توسعه یادگیری ماشینی و دستگاه‌های هوش مصنوعی و توانایی حل مشکلات و خدمات‌رسانی برخلاف برنامه‌ریزی‌شان با امکانات فعلی فعلاً دورازدسترس است. البته هوش مصنوعی درحال‌حاضر به درک خود و وضعیتمان کمک می‌کند. به‌گفته آنتونیو چلا استاد رباتیک دانشگاه پالرمو، محققان با وجود هوش مصنوعی و رباتیک موفق به شبیه‌سازی تئوری‌های آگاهی، احساسات، هوش و اخلاق در ربات‌ها شده‌اند. مدیر علوم یادگیری دانشگاه کالیفرنیای جنوبی به برخی از خطرات؛ ازجمله بهینه‌سازی بیش‌ازحد، سلاح سازی و فروپاشی زیست‌محیطی اشاره کرده. به‌گفته بن نای؛ شاید هوش مصنوعی برای بی‌ثبات‌سازی کشورها طراحی شده و انتشار تصادفی آن یکی از سناریوهای پروژه منهتن باشد. او دراین‌رابطه به حملات مبتنی‌بر ویروس بازیگران تحت‌حمایت دولت‌ها و فعالیت هکرهای ناشناس اشاره کرد. طبق گزارش‌ها، امسال هزینه جهانی هوش مصنوعی به ۴۳۴‌میلیارددلار می‌رسد. با رشد ۱۹.۶‌درصدی درآمد امسال بازار هوش مصنوعی شامل نرم‌افزار، سخت‌افزار و خدمات ۴۳۲.۸‌میلیارددلار است. براساس آمار شرکت بین‌المللی داده (IDC) ارزش این بازار سال بعد از ۵۰۰‌میلیارددلار عبور می‌کند. متخصصان هوش مصنوعی بر حل مشکلات کسب‌وکار ازجمله تقویت قدرت نیروی انسانی، بهبود فرآیندها، توسعه فرآیند برنامه‌ریزی و پیش‌بینی و افزایش قدرت تصمیم‌گیری متمرکز شده‌اند. به‌گفته ریتو جیوتی معاون گروه هوش مصنوعی جهانی و تحقیقات اتوماسیون در IDC؛ پیشرفت در فناوری‌ زبان، صدا و بینایی و راه‌حل‌های هوش مصنوعی چندوجهی، انقلابی در کارایی انسان ایجاد کرده است. با بالاتر رفتن کارایی نرم‌افزارهای مبتنی‌بر هوش مصنوعی بسیاری از هزینه‌های انجام فرآیندها کاهش می‌یابد. این‌روند تا سال ۲۰۲۳ ادامه خواهد داشت. نیمه اول پارسال ۴۷‌درصد از سرمایه‌گذاری‌ها به برنامه‌های کاربردی هوش مصنوعی و حدود ۳۵‌درصد سهم بازار به نرم‌افزار زیرساخت سیستم هوش مصنوعی اختصاص داشت. اسفندماه پارسال همایش «الزامات توسعه مدل زبانی بزرگ فارسی» با شعار «هوش مصنوعی، مولد قدرت حکومت‌ها» توسط ستاد توسعه فناوری‌های هوش مصنوعی و رباتیک معاونت علمی در محل پژوهشگاه ارتباطات و فناوری اطلاعات برگزار شد و بهروز مینایی؛ دبیر وقت ستاد توسعه فناوری‌های هوش مصنوعی و رباتیک معاونت علمی، فناوری و اقتصاد دانش‌بنیان ریاست‌جمهوری درآن‌زمان به سیر تطور فناوری هوش مصنوعی تابه‌امروز پرداخت و گفت: «در دهه‌های ۱۹۷۰ تا ۱۹۸۰ سیستم‌های خبره (Expert systems)، فناوری غالب در دنیای هوش مصنوعی بود که به‌عنوان یک پایگاه دانشی عمل می‌کرد و برآمده از تلاش‌های محققان بود که اساساً کاری به حوزه تولید نداشت و بیشتر در پی تشخیص بود». به‌گفته او؛ در ۱۹۹۰ گام مهمی در حوزه AI برداشته شد و «داده‌کاوی» به میدان آمد. در‌این‌نسل از فناوری‌های هوش مصنوعی، دیگر نیازی نبود داده‌ها از یک متخصص گرفته شود و افراد تنها از رهگذر داده‌ها می‌توانستند به یک الگو برسند. مینایی، تفاوت «سیستم‌های خبره» با سیستم‌های «داده‌کاوی» را در میزان دقت آن‌ها خواند و توضیح داد: «سیستم‌های خبره از دقت بالاتری درمقایسه‌با سیستم‌های داده‌کاوی برخوردارند؛ درمقابل، داده‌کاوی‌ها، توان کار روی ‌داده‌های سنگین را دارا هستند». او به «سیستم‌های یادگیری عمیق» اشاره کرد و گفت: «این‌نوع سیستم‌ها در شناخت تصاویر به‌اندازه انسان توانایی دارند و می‌توانند لایه‌های مختلف از شبکه‌های عصبی را ایجاد کنند». به‌گفته او؛ در فاصله ۲۰۱۲ تا ۲۰۱۸ «سیستم مدل‌های زبانی» طراحی شد که این سیستم‌ها می‌توانند رابطه یک کلمه را در بستر اطرافش ببینند و بردارها را با هم نسبت‌سنجی کنند و این‌ نسبت‌سنجی‌ها می‌تواند درک مطلب را در‌این‌سیستم‌ها عمیق‌تر کند. مینایی، مزیت نسل جدید سیستم‌های هوش مصنوعی را درمقایسه‌با گذشته، محدود‌نبودن توان آن‌ها به یک دامنه خاص و افزایش توان افقی آن‌ها دانست که در مدارهای معنایی و درک مطلب از اهمیت بالایی برخوردار است. او بابیان‌اینکه LLMها سوگیری خاصی را ازنظر فرهنگی و ارزشی ایجاد می‌کنند، تصریح کرد: «یک‌نوع پلورالیسم عقیدتی و اجتماعی بر دنیای استفاده از LLMها حاکم است و طبق نوع پرسشی که در آن‌ها طرح شود، پاسخ‌هایی متفاوت ارائه می‌کنند؛ ازاین‌رو، مهم‌ترین سوگیری استفاده از LLMها، سوگیری داده است و دراین‌فضا، حکمرانی داده، یک ضرورت است و هر کشوری، داده بیشتری داشته باشد، از قدرت بیشتری برخوردار است و به‌همین‌دلیل ما باید LLM بومی خودمان را داشته باشیم». اردیبهشت‌ماه امسال مصطفی رفعت در روزنامه سایه نوشت: مانند هر پیشرفت فناورانه، ابزارهای «هوش مصنوعی مولد» مانند بات‌های مکالمه «چت‌جی‌پی‌تی» و «کلود»، ابزار تولیدکننده تصویر «میدجرنی» و ... نیز در کنار همه جنبه‌های خدماتی‌شان، به‌‌میزان فزاینده‌ای برای کلاه‌برداری و سوءاستفاده نیز استفاده می‌شود. در موج جدید تولید و نشر محتواهای مخرب، «دیپ‌فیک» به‌ویژه قابل‌توجه است؛ محصولات سمعی و بصری که به‌‌شکل «مصنوعی» تولید شده‌اند و تاکنون شامل کلاه‌برداری از رأی‌دهندگان ازطریق جعل هویت سیاستمداران یا ایجاد تصاویر مستهجن غیرمتعارف از افراد مشهور است. همان‌طورکه نظرسنجی اخیر «مایکروسافت» نشان داده، تقلب‌ها، کلاه‌برداری‌ها و سوءاستفاده‌ها چیزی‌ست‌که کاربران آنلاین در سراسر جهان بیشتر نگران آن هستند. 71‌درصد از پاسخ‌دهندگان در 17 کشوری که توسط «مایکروسافت» طیِ جولای و اوت 2023 موردبررسی قرار گرفتند، «بسیار» یا «تاحدودی» نگران کلاه‌برداری‌های به‌کمک هوش مصنوعی بودند. اگرچه آن‌ها توضیح بیشتری از ‌نوع کلاه‌برداری نداند؛ اما به‌احتمال‌زیاد «جعل هویت شخصی در انظار عمومی از یک مقام دولتی یا یکی از آشنایان» را مدنظر داشتند. در رتبه دوم و سوم نگرانی‌ها، «دیپ‌فیک» و «سوءاستفاده جنسی آنلاین» با 69‌درصد قرار دارد. مزخرفاتی که در قالب مستندات با پشتوانه‌ علمی، پژوهشی و تحقیقاتی در قالبِ «حقایق» به‌خورد جامعه داده می‌شود (تولیدی توسط چت‌بات‌ها) در رتبه چهارم قرار دارند؛ و نگرانی‌های مربوط به «حفظ حریم خصوصی داده‌ها» (62درصد) نیز در جایگاه بعدی‌ست. «سوگیری‌ها» در نتایج حاصل از تجزیه‌وتحلیلی که به‌واسطه هوش مصنوعی انجام شده با 60درصد دراین‌فهرست جزو رتبه‌های بالاست. کلاً 87‌درصدِ پاسخ‌دهندگان، حداقل «تاحدودی» نگران خلق یک سناریوی مشکل‌ساز متأثر از «هوش مصنوعی» و تبعات این فناوری بودند. روجا تحریری نوری نیز در ایسنا در مطلبی باعنوان نیمه تاریک «هوش مصنوعی مولد!» نوشت: همه درباره مشکل توهم ChatGPT شنیده‌ایم. مدل‌های زبانی بزرگ برای ارائه پاسخ‌های احتمالی طراحی شده‌اند که از داده‌های آموزشی می‌گیرند و می‌توانند کمی بیش‌ازاندازه نسبت به ارائه پاسخ مشتاق باشند. این‌ مشخص شده که مدل‌های زبانی بزرگ به‌جای گفتن «نمی‌دانم»، پاسخ‌هایی را درست می‌کنند و مشکلات بسیاری؛ از آسیب‌زنی به یک برند گرفته تا نقض مقررات به‌وجود می‌آورند. ایجاد حفاظ‌های اخلاقی و موضوعی برای مدل‌های مولد هوش مصنوعی می‌تواند به حل‌ این مشکل کمک کند. شاید مشکل سوگیری هوش مصنوعی، یک خبر قدیمی‌ست؛ اما گسترش سریع «هوش مصنوعی مولد» این نگرانی را بیش‌ازحد تصور تشدید کرده. اکنون، به‌جای نگرانی درمورد یک سوگیری کوچک، مدیران شرکت‌ها باید نگران باشند سوگیری هوش مصنوعی بتواند فرهنگ شرکت آن‌ها را به‌طورکامل تحت‌سلطه خود درآورد. آیا سهولت استفاده‌ از برنامه‌هایی مانند ChatGPT یعنی با توجه‌کردن به یک دیدگاه، تعدد صداهای ما خفه می‌شود؟ منتقدان ادعا کرده‌اند این نرم‌افزار یک سوگیری آشکار دارد که تعصبات جنسیتی را تداوم می‌بخشد و ذاتاً ازنظر نژادی مغرضانه عمل می‌کند. برای اطمینان‌یافتن از اینکه «هوش مصنوعی مولد» نمی‌تواند دیدگاه‌های سمی را در سازمان یا شرکت تداوم ببخشد، گروه مهندسی شرکت باید در تماس نزدیک با این‌موضوع باشد و تلاش کند ارزش‌های شرکتی و انسانی را به هوش مصنوعی القا کند. باتوجه‌به‌اینکه ایجاد محتوای جدید با «هوش مصنوعی مولد» بسیارآسان شده، غرق در اطلاعات شده‌ایم. ایمیل‌ها، کتاب‌های الکترونیکی، صفحات وب، پست‌های منتشرشده در رسانه‌های اجتماعی و سایر آثار تولیدشده، سیل اطلاعات را سرازیر می‌کنند. حجم درخواست‌های شغلی نیز افزایش یافته که به‌دلیل توانایی در تولید سریع رزومه‌های سفارشی‌سازی‌شده و نامه‌های پوششی با هوش مصنوعی‌ست.