پرش به محتوا
تهران۱۵°
گزارش

گزارش اقتصاد پویا از خطرات هوش مصنوعی؛

فراتر رفتن هوش مصنوعی از یک ابزار

مونا ربیعیان ۷ دقیقه مطالعه کد خبر: ۹۵۴۴۱

خلاصه خبر

اقتصاد پویا / سرویس اجتماعی -هوش مصنوعی دیگر صرفاً یک فناوری برای افزایش سرعت پردازش اطلاعات، تولید محتوا یا انجام امور روزمره نیست؛ به‌تدریج به فناوری‌ای تبدیل شده که می‌تواند بر امنیت، اقتصاد، سلامت، سیاست، اشتغال و حتی ساختارهای اجتماعی اثر بگذارد. در همین فضای پرشتاب، هشدار تازه بیل گیتس درباره ظرفیت هوش مصنوعی برای ایجاد حوادثی با تلفات بسیار گسترده، بار دیگر بحث درباره آینده این فناوری و نحوه کنترل ریسک‌های آن را به مرکز توجه آورده است.

فراتر رفتن هوش مصنوعی از یک ابزار

دانیال امینی / گیتس، هم‌بنیان‌گذار مایکروسافت، در گفت‌وگویی با برنامه «Meet the Press» شبکه NBC گفت هوش مصنوعی «به‌اندازه کافی قدرتمند است که بتواند رویدادهایی را رقم بزند که به مرگ یک میلیارد نفر منجر شود». او در ادامه تأکید کرد که دستیابی به نابودی صددرصدی انسان‌ها بسیار دشوار است، اما از نگاه او، ترکیب افراد دارای نیت مخرب با ابزارهای جدید هوش مصنوعی ظرفیت خطرناکی ایجاد می‌کند؛ ظرفیتی که به گفته او نمونه مشابهی در تاریخ سلاح‌ها و فناوری‌ها نداشته است. این اظهارات البته نباید به‌عنوان پیش‌بینی قطعی مرگ یک میلیارد انسان تعبیر شود. گیتس درباره یک سناریوی بالقوه و ظرفیت فناوری برای ایجاد خسارت عظیم هشدار داده است. اهمیت سخنان او بیشتر از عدد مورد اشاره، در تغییر سطح بحث نهفته است؛ اینکه توسعه هوش مصنوعی دیگر صرفاً موضوع شرکت‌های فناوری و سرمایه‌گذاران نیست و دولت‌ها، قانون‌گذاران و نهادهای بین‌المللی نیز ناچارند درباره چارچوب‌های ایمنی و نظارت بر آن تصمیم بگیرند.هوش مصنوعی در چند سال گذشته با سرعتی بسیار بیشتر از بسیاری از پیش‌بینی‌های قبلی توسعه یافته است. مدل‌های جدید قادرند متن، تصویر، صدا و ویدئو تولید کنند، کدنویسی کنند، اطلاعات را تحلیل کنند و در برخی وظایف پیچیده استدلالی عملکرد قابل توجهی داشته باشند. در کنار این پیشرفت‌ها، استفاده از عامل‌های هوشمند و سیستم‌هایی که می‌توانند مجموعه‌ای از اقدامات را با دخالت کمتر انسان انجام دهند، موضوع جدیدی به نام «خودمختاری» را نیز وارد بحث کرده است.در چنین شرایطی، پرسش اصلی دیگر فقط این نیست که هوش مصنوعی چه کاری می‌تواند انجام دهد؛ بلکه این است که چه کسی، با چه هدفی و تحت چه نظارتی از این توانایی استفاده می‌کند.

وقتی فناوری قدرتمند در اختیار انسان قرار می‌گیرد

یکی از نکات اصلی در هشدار گیتس، تمرکز بر «ترکیب انسان و فناوری» است. نگرانی مطرح‌شده این نیست که هوش مصنوعی لزوماً با تصمیم مستقل خود به دنبال آسیب زدن به انسان‌ها باشد؛ بلکه این است که افراد یا گروه‌هایی با اهداف مخرب بتوانند از توانایی‌های فزاینده سیستم‌های هوش مصنوعی برای افزایش قدرت عملیاتی خود استفاده کنند.این مسئله دامنه بسیار گسترده‌ای دارد. از حملات سایبری و تولید اطلاعات جعلی گرفته تا سوءاستفاده از داده‌های شخصی، طراحی حملات پیچیده، ایجاد کلاهبرداری‌های گسترده و استفاده احتمالی از AI در حوزه‌های حساس، همگی در بحث‌های مربوط به ایمنی این فناوری مطرح شده‌اند.هوش مصنوعی می‌تواند هزینه و زمان انجام برخی فعالیت‌ها را کاهش دهد. همین ویژگی در کاربردهای مثبت اقتصادی یک مزیت بزرگ محسوب می‌شود، اما از منظر امنیتی می‌تواند برای فعالیت‌های مخرب نیز جذاب باشد. فناوری‌ای که به یک شرکت کمک می‌کند سریع‌تر کدنویسی یا تحلیل کند، بالقوه می‌تواند توسط فردی مخرب نیز برای افزایش سرعت و مقیاس عملیات خود مورد استفاده قرار گیرد.به همین دلیل، مفهوم «دوکاربردی بودن» فناوری در مورد هوش مصنوعی اهمیت پیدا کرده است. بسیاری از قابلیت‌های AI ذاتاً خوب یا بد نیستند؛ نحوه استفاده از آنها تعیین می‌کند که نتیجه چه باشد.در سوی دیگر، همین فناوری ظرفیت‌های بسیار بزرگی برای حل مسائل انسانی دارد. گیتس در هفته‌های اخیر همزمان با هشدارهای خود درباره خطرات AI، بر استفاده از آن برای سلامت، آموزش، کشاورزی و کاهش نابرابری تأکید کرده است. بنیاد گیتس نیز از یک برنامه یک میلیارد دلاری برای حمایت از کاربردهای هوش مصنوعی در حوزه‌هایی مانند سلامت، آموزش و کشاورزی خبر داده است. بنابراین تصویر هوش مصنوعی دوگانه است: همان فناوری که می‌تواند در کشف دارو، تشخیص بیماری، آموزش و افزایش بهره‌وری نقش داشته باشد، در صورت استفاده نادرست می‌تواند خطرهای جدیدی ایجاد کند. چالش اصلی سیاست‌گذار این است که چگونه می‌توان از منافع فناوری بهره گرفت بدون آنکه ریسک‌های آن نادیده گرفته شود.

از خودتنظیمی شرکت‌ها تا قانون‌گذاری

بخش دیگری از اظهارات گیتس به موضوع حکمرانی هوش مصنوعی مربوط می‌شود. او در مصاحبه خود تأکید کرده که خودتنظیمی شرکت‌ها به‌تنهایی کافی نیست و قانون‌گذاران و نهادهای اجرایی باید درباره الزامات ایمنی و نظارت وارد عمل شوند. از نگاه او، ایجادسازوکارهای نظارت و حفاظت باید به یک الزام تبدیل شود. این دیدگاه در شرایطی مطرح می‌شود که میان کشورهای مختلف و حتی در داخل صنعت فناوری، درباره میزان و شکل مقررات‌گذاری اختلاف نظر وجود دارد. برخی بر ضرورت مقررات سخت‌گیرانه‌تر برای سیستم‌های پرریسک تأکید می‌کنند، در حالی که برخی فعالان فناوری نسبت به مقررات سنگین هشدار می‌دهند و معتقدند چنین مقرراتی می‌تواند سرعت نوآوری را کاهش دهد.این اختلاف نظر نشان می‌دهد که مسئله صرفاً انتخاب میان «آزادی کامل» و «توقف فناوری» نیست. یکی از چالش‌های اصلی، پیدا کردن سازوکاری است که بتواند میان نوآوری و مدیریت ریسک تعادل برقرار کند.در سال ۲۰۲۶، این بحث حتی رنگ ژئوپلیتیکی بیشتری پیدا کرده است. آمریکا و چین همزمان با رقابت بر سر توسعه مدل‌های پیشرفته هوش مصنوعی، درباره مدیریت خطرهای این فناوری نیز وارد گفت‌وگو شده‌اند. گزارش‌های اخیر همچنین نشان می‌دهد که برخی شرکت‌های بزرگ فناوری و پژوهشگران، نسبت به خطرهای بالقوه سیستم‌های بسیار پیشرفته هشدار داده‌اند؛ در مقابل، برخی مدیران صنعت، شدت این هشدارها را اغراق‌آمیز می‌دانند. برای نمونه، جنسن هوانگ، مدیرعامل انویدیا، اخیراً برخی سناریوهای نابودی انسان به‌دست AI را رد کرده و بر کفایت چارچوب‌های قانونی موجود تأکید کرده است. این اختلاف دیدگاه اهمیت یک موضوع را بیشتر می‌کند: تصمیم‌گیری درباره آینده هوش مصنوعی نمی‌تواند فقط بر اساس ترس یا خوش‌بینی شکل بگیرد. نیاز به ارزیابی فنی، داده‌های قابل سنجش، آزمایش‌های ایمنی، استانداردهای روشن و سازوکارهای پاسخگویی وجود دارد.از سوی دیگر، قانون‌گذاری در این حوزه با یک مشکل اساسی مواجه است؛ فناوری بسیار سریع‌تر از قانون حرکت می‌کند. ممکن است قانونی امروز برای یک مدل یا نوع خاصی از کاربرد نوشته شود، اما چند ماه بعد فناوری جدیدی وارد بازار شود که قابلیت‌های متفاوتی دارد. بنابراین مقررات آینده باید تا حد امکان بر «سطح ریسک و نوع کاربرد» تمرکز کنند، نه صرفاً نام یک فناوری یا محصول مشخص. آینده‌ای که هنوز نوشته نشده استشاید مهم‌ترین بخش هشدار گیتس، جمله‌ای باشد که درباره ضرورت پرسیدن این سؤال مطرح کرده است: «چگونه می‌خواهیم این را شکل دهیم؟» این پرسش در واقع از بحث درباره اینکه AI خوب است یا بد فراتر می‌رود. مسئله این است که جامعه انسانی چه قواعدی برای توسعه و استفاده از این فناوری تعیین خواهد کرد.هوش مصنوعی در حال ورود به حوزه‌هایی است که پیش از این عمدتاً در اختیار نیروی انسانی قرار داشت. بازار کار یکی از مهم‌ترین این حوزه‌هاست. گیتس و دیگر چهره‌های فناوری پیش‌تر درباره اثر AI بر مشاغل هشدار داده‌اند، در حالی که همزمان گروهی دیگر بر ایجاد مشاغل و افزایش بهره‌وری ناشی از این فناوری تأکید دارند. گزارش رویترز از اظهارات اخیر گیتس نیز نشان می‌دهد که او در کنار خطرهای امنیتی، درباره جابه‌جایی شغلی و پیامدهای اجتماعی AI نیز نگرانی‌هایی مطرح کرده است. برای اقتصادها، مسئله اصلی فقط تعداد مشاغلی نیست که ممکن است تغییر کنند؛ بلکه سرعت تغییر نیز اهمیت دارد. اگر فناوری سریع‌تر از نظام آموزشی و بازار کار حرکت کند، بخشی از نیروی انسانی ممکن است برای ورود به مشاغل جدید به آموزش مجدد نیاز داشته باشد. بنابراین سیاست‌گذاری درباره AI فقط به وزارتخانه‌های فناوری مربوط نمی‌شود؛ آموزش، اقتصاد، کار، سلامت، امنیت و حتی نظام قضایی نیز درگیر این تحول خواهند شد.از سوی دیگر، تمرکز قدرت محاسباتی و داده‌ای در دست تعداد محدودی از شرکت‌ها می‌تواند موضوع دیگری برای سیاست‌گذاران باشد. هرچه مدل‌های هوش مصنوعی بزرگ‌تر و پرهزینه‌تر شوند، دسترسی به زیرساخت‌های محاسباتی، تراشه‌های پیشرفته و داده‌های باکیفیت اهمیت بیشتری پیدا می‌کند. این موضوع می‌تواند رقابت اقتصادی و فناوری میان کشورها را نیز تحت تأثیر قرار دهد.در چنین فضایی، هشدار یک میلیاردی بیل گیتس را می‌توان بخشی از بحث گسترده‌تری دانست که در سال‌های اخیر درباره آینده AI شکل گرفته است. این هشدار نه به معنای قطعی بودن یک فاجعه جهانی است و نه دلیلی برای توقف همه تحقیقات هوش مصنوعی. پیام اصلی آن، ضرورت توجه همزمان به ظرفیت‌های مثبت و ریسک‌های بالقوه فناوری است.هوش مصنوعی می‌تواند یکی از مهم‌ترین ابزارهای افزایش بهره‌وری در تاریخ اقتصاد باشد و در عین حال، مانند هر فناوری قدرتمند دیگری، نیازمند قواعد استفاده، نظارت و پاسخگویی باشد. تفاوت مهم این فناوری با بسیاری از ابزارهای گذشته در سرعت توسعه و گستره کاربرد آن است؛ موضوعی که زمان تصمیم‌گیری سیاست‌گذاران را محدودتر می‌کند.

نظرات خوانندگان

دیدگاه خود را بنویسید

نظرها پس از بررسی منتشر می شوند.