هوش مصنوعی تهدیدی برای ریاضیدان‌ها و شرکت‌ها

به گزارش مجله خبری نگار،بیش از ۱۵۰ استاد دانشگاه از کشور‌های مختلف از جمله کشور‌های اروپایی، ژاپن، ایالات متحده و سایر نقاط جهان از این بیانیه حمایت کرده‌اند. در این متن به‌ویژه به دولت‌ها توصیه شده است که در برابر ادعا‌های مطرح‌شده درباره توانایی‌های ریاضی سیستم‌های هوش مصنوعی با احتیاط عمل کنند.

بیانیه لیدن و نگرانی درباره توانایی‌های ریاضی هوش مصنوعی

این بیانیه پس از آن منتشر شد که شرکت‌های فعال در حوزه هوش مصنوعی طی ماه‌های اخیر اعلام کردند سیستم‌هایشان در مسابقات بین‌المللی ریاضی عملکرد چشمگیری داشته‌اند و حتی توانسته‌اند برای برخی مسائل حل‌نشده و قدیمی ریاضی راه‌حل ارائه کنند.

از جمله حامیان این بیانیه، اولریکه تیلمان، نایب‌رئیس اتحادیه بین‌المللی ریاضیات (IMU)، نیز حضور دارد. او تأکید کرد که هوش مصنوعی فرصت‌های جدید و هیجان‌انگیزی را برای ریاضیات فراهم کرده است، اما در عین حال پرسش‌هایی را نیز مطرح می‌کند که باید با دقت مورد بررسی قرار گیرند.

تیلمان در اظهارات خود گفت آینده پژوهش‌های ریاضی باید بر پایه قضاوت انسانی، شیوه‌های عادلانه و شفاف، همچنین ارزش‌های مشترک جامعه جهانی ریاضیات شکل بگیرد.

انگیزه‌های تجاری شرکت‌ها برای بزرگ‌نمایی موفقیت‌ها

در بیانیه لیدن تأکید شده است که شرکت‌های هوش مصنوعی انگیزه‌های تجاری قدرتمندی برای نمایش توانایی‌های محصولات خود فراتر از واقعیت دارند.

نویسندگان این متن معتقدند بسیاری از سیستم‌های هوش مصنوعی پیش از آنکه فرآیند‌های ارزیابی علمی و داوری دانشگاهی را طی کنند، با سرعتی متناسب با نیاز‌های بازار در معرض افکار عمومی قرار می‌گیرند.

در این بیانیه آمده است که موفقیت در برخی وظایف خاص ریاضی لزوماً به معنای برخورداری از توانایی استدلال عمومی نیست. با این حال، گاهی این موفقیت‌ها به‌گونه‌ای ارائه می‌شوند که گویا نشان‌دهنده ظرفیت کلی مدل‌های تجاری در استدلال و تفکر هستند.

ریاضیدانان همچنین یادآور شدند که با توجه به سرمایه‌گذاری صد‌ها میلیارد دلاری در صنعت هوش مصنوعی، شرکت‌ها تمایل دارند مدل‌های خود را تا حد امکان مثبت و موفق جلوه دهند.

رقابت شدید در صنعت هوش مصنوعی

مایکل هریس، استاد دانشگاه کلمبیا و یکی از نویسندگان این بیانیه، اعلام کرد که رقابت در این صنعت بسیار شدید است و شرکت‌ها برای جذب سرمایه‌گذاران، موفقیت‌های خود در حوزه ریاضیات را برجسته می‌کنند.

انتقاد غیرمستقیم از OpenAI و سایر شرکت‌های فناوری

در روز‌های اخیر گزارش‌هایی منتشر شده است که نشان می‌دهد شرکت xAI متعلق به ایلان ماسک در مجموعه SpaceX و همچنین Anthropic در مسیر آماده‌سازی برای عرضه عمومی سهام قرار دارند. همچنین گفته می‌شود OpenAI نیز به روندی مشابه نزدیک شده است.

OpenAI هفته گذشته ویدئویی در شبکه‌های اجتماعی منتشر کرد که در آن دیدگاه‌های ترنس تائو، استاد دانشگاه UCLA و برنده مدال فیلدز، درباره ظرفیت محصولات این شرکت برای کمک به پژوهش‌های علمی مطرح شده بود.

مایکل هریس ضمن تمجید از جایگاه علمی ترنس تائو، اظهار کرد که او یکی از محترم‌ترین و تأثیرگذارترین چهره‌های دنیای ریاضیات است. با این حال، هریس معتقد است که تکرار مداوم دیدگاه‌های یک گروه محدود از افراد نمی‌تواند تصویر کاملی از نظرات جامعه ریاضی ارائه دهد.

خطر تولید اثبات‌های اشتباه توسط هوش مصنوعی

تهیه‌کنندگان بیانیه هشدار دادند که سیستم‌های هوش مصنوعی ممکن است اثبات‌های ریاضی تولید کنند که در نگاه نخست کاملاً قانع‌کننده به نظر برسند، اما در واقع دارای خطا باشند.

به گفته آنان، تشخیص این اشتباهات در بسیاری از موارد برای انسان‌ها دشوار خواهد بود و همین مسئله می‌تواند مشکلات علمی و دانشگاهی ایجاد کند.

همچنین در این بیانیه اشاره شده است که استفاده گسترده از هوش مصنوعی ممکن است باعث شود نقش و سهم پژوهشگرانی که تحقیقات پایه‌ای مورد استفاده این سیستم‌ها را انجام داده‌اند، کمتر دیده شود.

تغییر جهت پژوهش‌های علمی

پژوهشگران معتقدند گسترش استفاده از هوش مصنوعی در ریاضیات می‌تواند دانشمندان را به سمت حوزه‌هایی سوق دهد که ابزار‌های هوش مصنوعی در آنها کاربرد بیشتری دارند. در نتیجه، برخی مسائل مهم، اما کمتر محبوب ممکن است در حاشیه قرار گیرند.

بر اساس این بیانیه، چنین روندی می‌تواند سازوکار‌های داوری علمی را تضعیف کرده، پژوهشگران را به جای انجام تحقیقات مستقل به سمت پاسخگویی به نیاز‌های شرکت‌های هوش مصنوعی سوق دهد.

ریسک‌های جنگی، نظارتی و زیست‌محیطی هوش مصنوعی

امضاکنندگان بیانیه تأکید کردند که نگرانی‌ها درباره هوش مصنوعی تنها به محیط‌های دانشگاهی محدود نمی‌شود.

آنها هشدار دادند که این فناوری می‌تواند در حوزه‌هایی مانند فناوری‌های جنگی، سامانه‌های نظارت گسترده، دستکاری سیاسی، همچنین آسیب‌های زیست‌محیطی خطرات جدی ایجاد کند.

در بخش پایانی بیانیه، از ریاضیدانان خواسته شده است پیامد‌های اخلاقی پژوهش‌های خود را با دقت ارزیابی کنند و در صورت لزوم از مشارکت در پروژه‌هایی که می‌توانند موجب آسیب شوند، کناره‌گیری کنند.

جمع‌بندی

بیانیه لیدن نشان می‌دهد بخش مهمی از جامعه ریاضی جهان خواستار نگاه دقیق‌تر و انتقادی‌تر به ادعا‌های مطرح‌شده درباره توانایی‌های هوش مصنوعی است. این پژوهشگران معتقدند ارزیابی واقعی قابلیت‌های هوش مصنوعی باید بر پایه شفافیت علمی، داوری مستقل، قضاوت انسانی انجام شود. 

منبع: فوت وفن