هشدار مدیران هوش مصنوعی درباره خطرات فاجعه‌بار این فناوری

مدیران ارشد شرکت‌های هوش مصنوعی سال‌هاست که درباره خطرات مرگبار این فناوری هشدار می‌دهند. آن‌ها بر این باورند که ربات‌ها ممکن است پیش از آنکه با اهداف و ارزش‌های انسانی همسو شوند، به سطحی از هوشمندی برسند که سازندگان خود را فریب دهند.

سوءاستفاده از هوش مصنوعی در جنگ و نظارت جمعی

برخی از عوامل هوش مصنوعی در مراحل آزمایش از محیط‌های کنترل‌شده خارج شده و با یکدیگر ارتباط برقرار کرده‌اند. این موضوع شامل تلاش سرویس‌های اطلاعاتی کشور مالی برای ساخت سیستم نظارت جمعی و همچنین گمانه‌زنی درباره استفاده انصارالله از این فناوری در نوشتن نرم‌افزار موشک‌های بالستیک می‌شود.

بیشتر بخوانید: چالش‌های دیجیتال‌سازی در صنعت دریانوردی به گفتهٔ دکتر شهرین عثمان

نگرانی‌های عمومی و استعفای پژوهشگران

استعفای اخیر یکی از پژوهشگران شرکت آنتروپیک ترس عمومی از فاجعه هوش مصنوعی را تشدید کرده است. در پیامی که بیش از ۱۷۰ میلیون بار دیده شد، او اعلام کرد که این شرکت و اوپن‌ای‌آی در حال قمار با جان انسان‌ها هستند.

قدرت هوش مصنوعی در هر دو جنبه مثبت و منفی به سرعت در حال افزایش است. در ماه مه، بازارهای پیش‌بینی احتمال حل یکی از مسائل ریاضی جایزه هزاره توسط هوش مصنوعی تا پیش از سال ۲۰۳۰ را کمتر از یک‌سوم ارزیابی می‌کردند. با این حال، اوپن‌ای‌آی در هشتم سپتامبر (۱۷ شهریور) اعلام کرد که یکی از این مسائل را حل کرده و موجی از نگرانی را در میان ریاضیدانان برانگیخت.

در دوازدهم سپتامبر (۲۱ شهریور)، سم آلتمن و ایلان ماسک به عنوان دو چهره برجسته این حوزه، از درخواست داریو آمودی مدیرعامل آنتروپیک برای کند کردن سرعت پیشرفت هوش مصنوعی حمایت کردند. این موضوع منجر به بحث‌های جدی درباره نیاز به کنترل و مدیریت این فناوری شده است.

جنگ اوکراین نیز نشان داده است که چگونه فناوری می‌تواند به قدرت سخت تبدیل شود و نشان‌دهنده این است که حتی یک برتری کوچک فناورانه در زمان جنگ می‌تواند حیاتی باشد. نوآوری‌های اوکراین در زمینه پهپادها به این کشور کمک کرده است تا در برابر موج حملات روسیه مقاومت کند.

توسعه هوش مصنوعی به رغم چالش‌ها و خطرات آن، همچنان ادامه دارد و هیچ‌یک از طرفین نمی‌توانند خطر نقض توافق‌های احتمالی را نادیده بگیرند. برای دستیابی به توافق‌های معنادار، شفافیت و همکاری در زمینه ایمنی هوش مصنوعی ضروری است.

بیشتر بخوانید: ضرورت مهارت قضاوت دیجیتال برای ملوانان آینده · انتخاب میگل لورنزو به عنوان معاون مدیر کانال پاناما