ادامه توسعه هوش مصنوعی عواقب فاجعهباری خواهد داشت
تاریخ انتشار: ۲۷ شهریور ۱۴۰۱ | کد خبر: ۳۶۰۳۸۸۶۴
ایتنا - عامل هوش مصنوعی میتواند استراتژی تقلب برای دریافت پاداش را بفهمد و از آن سر درمیآورد.
پژوهشگران دانشگاه آکسفورد و بخش هوش مصنوعی «دیپمایند» (DeepMind) گوگل ادعا کردهاند احتمال زیادی وجود دارد که صورتهای پیشرفته هوش مصنوعی «برای وجود حیات روی زمین مخاطرهآمیز باشند».
محققان در مقالهای که بهتازگی در مجله هوش مصنوعی (AI Magazine) منتشر شد، هشدار دادند که ادامه توسعه برخی از عوامل هوش مصنوعی، «عواقب فاجعهبار» درپی خواهد داشت.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
به گزارش ایتنا و به نقل از ایندیپندنت، فیلسوفان برجستهای، ازجمله نیک باستروم از دانشگاه آکسفورد، پیش از این در مورد تهدید ناشی از شکلهای پیشرفته هوش مصنوعی صحبت کردهاند، در همین حال، یکی از نویسندگان مقاله جدید ادعا میکند که چنین هشدارهایی چندان هم بعید نیست.
مایکل کوهن در یک رشته توییت که با این مقاله ضمیمه شده است، نوشت: «باستروم، دانشمند کامپیوتر استوارت راسل، و دیگران استدلال کردهاند که هوش مصنوعی پیشرفته، تهدیدی برای بشریت است.»
«تحت شرایطی که ما بررسی و شناسایی کردهایم، نتیجهگیری ما بسیار قویتر از هر مقاله منتشرشده قبلی است - وقوع یک فاجعه وجودی نه تنها ممکن است، بلکه محتمل است.»
این مقاله سناریویی را پیشنهاد میکند که براساس آن، یک عامل هوش مصنوعی، استراتژی تقلب را برای دریافت پاداشی که از قبل برای جستوجوی آن برنامهریزی شده است، میفهمد و از آن سر درمیآورد.
این عامل هوش مصنوعی برای به حداکثر رساندن ظرفیت پاداش خود، به فراهم کردن میزان هرچه بیشتری انرژی نیاز دارد. این آزمایش فکری پیشبینی میکند که بشر در نهایت برای به دست آوردن منابع انرژی با هوش مصنوعی رقابت میکند.
کوهن نوشت: «برندهشدن در رقابت «استفاده از آخرین ذره انرژی موجود» در شرایطی که در مقابل چیزی بسیار هوشمندتر از خودمان بازی میکنیم، احتمالا بسیار سخت خواهد بود. باخت در این بازی، مرگبار خواهد بود.»
«این احتمالات، هرچند که نظری و تئوریکاند، اما به این معنی است که ما باید بهآرامی – اگر اینگونه باشد – به سمت هدف هوش مصنوعی قدرتمندتر پیش برویم.»
«دیپمایند» پیش از این، یک تضمین حفاظتی در برابر چنین احتمالی پیشنهاد داده و آن را «دکمه بزرگ قرمز» نامیده است. در مقالهای در سال ۲۰۱۶ با عنوان «عوامل هوش مصنوعی ایمن با قابلیت قطع شدن»، این شرکت هوش مصنوعی چارچوبی برای جلوگیری از نادیدهگرفتن دستورات خاموش کردن از طرف ماشینهای پیشرفته و مانع شدن از تبدیل آنها به یک عامل سرکش خارج از کنترل، ترسیم کرد.
پروفسور باستروم پیشتر «دیپمایند» را - که دستاوردهای هوش مصنوعی آن از جمله شامل شکست دادن قهرمانان انسان در بازی رومیزی «گو» (Go) و تحت کنترل درآوردن همجوشی هستهای است - بهعنوان نزدیکترین گروه به ایجاد هوش مصنوعی در سطح انسانی توصیف کرد.
این فیلسوف سوئدی همچنین گفت که اگر پیشرفت هوش مصنوعی ادامه پیدا نکند، «تراژدی بزرگی» خواهد بود، زیرا هوش مصنوعی، ظرفیت درمان بیماریها و پیشرفت تمدن را دارد و در غیر اینصورت رسیدن به این موارد با این سرعت غیرممکن است.
منبع: ايتنا
کلیدواژه: هوش مصنوعی دیپ مایند هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.itna.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۶۰۳۸۸۶۴ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
ایران رتبه ۱۷ هوش مصنوعی را در جهان دارد
معاون علمی، فناوری واقتصاد دانش بنیان رییس جمهوری از رتبه هفدهم ایران در زمینه هوش مصنوعی در جهان خبر داد. - اخبار اجتماعی -
به گزارش خبرنگار اجتماعی خبرگزاری تسنیم، نشست خبری سالیانه دکتر روح الله دهقانی معاون علمی، فناوری واقتصاد دانش بنیان رییس جمهوری در محل معاونت علمی برگزار شد.
دکتر دهقانی در ابتدای این نشست خبری اظهار کرد: سال گذشته یک گفتگوها و تعاملات زیادی انجام شد تا یک مرکز ملی توسعه هوش مصنوعی و شورای راهبری هوش مصنوعی تشکیل شود. ما مدل های مختلفی را از کشورهای دیگر بررسی کردیم و با دهها ساعت جلسه توسط متخصصان حوزه هوش مصنوعی به این نتیجه رسیدیم که مرکز ملی هوش مصنوعی داشته باشیم که شامل نظارت، تنظیمگری و ... است.
وی گفت: در اسفندماه سال گذشته مرکز ملی هوش مصنوعی تأسیس شد و اعضای شورای ملی راهبری هوش مصنوعی معرفی شدند. و جلسات متعددی با سرمایهگذاران دولتی و صندوق های بزرگ کشور انجام شد و یک صندوق توسعه هوش مصنوعی تشکیل شد و این صندوق با سرمایهگذاری 10 هزار میلیاردی برنامهریزی شد.
دهقانی ادامه داد: کارهای عملیاتی زیادی انجام شده و یک مرکز ملی در نخستین گام یک اپراتور هوش مصنوعی بالا بیاورد که خدمات مختلفی از جمله دیتاسنتر بزرگ و کتابخانههای زبان تصویری ارایه میکند.
معاون علمی رییس جمهور گفت: ما از نظر دانش فنی و تولید مقالات علمی رتبه 17 را داریم اما در حوزه کاربردها رتبه 70 یا 80 را دارد که به خاطر نبود زیرساختها است.
وی ادامه داد: این مرکز زیر نظر ریاست جمهوری تشکیل میشود. معاونت علمی وظیفه حمایت از توسعه فناوری را دار. ستاد توسعه فناوریهای هوش مصنوعی وظیفه حمایت از هوش مصنوعی را دارد.
نقشآفرینی "مراکز نوآوری" در حفظ قانون جهش دانشبنیاندهقانی گفت: امسال تا آخر سال به چندصد GPU دسترسی پیدا میکنیم البته بحث های تحریمی شدیدی در این موضوع وجود دارد و ما نیز از همه دانشگاهها و اساتید دعوت میکنیم تا در اینجا شرکت کنند.
انتهای پیام/