روزی بدون اجازه روبات‌ها آب هم نخواهیم خورد

به گزارش  سرویس وبگردی خبرگزاری صدا وسیما ، نظرسنجی از کارشناسان هوش مصنوعی که توسط اندیشکده آمریکایی «مرکز تحقیقاتی پیو» انجام شده، برخی نگرانی‌های عمده را در عرصه هوش مصنوعی برجسته کرده است.

در گزارش این اندیشکده آمریکایی آمده است: امروزه میان متخصصان حوزه هوش مصنوعی توافق کلی بر سر این مساله وجود دارد که ماشین‌های هوشمند، روبات‌ها و سیستم‌هایی که عمدتا از فرایند یادگیری ماشین و هوش مصنوعی استفاده می‌کنند، از هم اکنون تا سال ۲۰۳۵ سرعت توسعه و پیچیدگی خود را افزایش خواهند داد.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

از آنجایی که افراد در سال‌های آینده  به طور جدی و عمیق‌تری از این فناوری‌ها برای تقویت، بهبود و ساده‌سازی زندگی خود استقبال خواهند کرد، به طور مداوم از آن‌ها دعوت می‌شود تا تصمیم‌گیری‌های بیشتری در عرصه زندگی شخصی را به ابزارهای دیجیتال بسپارند، این اتفاق باعث از بین رفتن تدریجی استقلال در تصمیم گیری‌ها و در مجموع زندگی شخصی افراد می‌شود.

برخی از تحلیلگران نگرانی‌هایی را نیز در مورد احتمال خودکار شدن سیستم های تجاری، دولتی و اجتماعی ابراز کرده‌اند. آن‌ها می‌ترسند که انسان‌ها توانایی قضاوت و تصمیم‌گیری مستقل از این سیستم‌ها را از دست بدهند. از سویی دیگر اهمیت هوش مصنوعی و مزایای بسیاری که می‌تواند برای انسان داشته باشد نیز در این گزارش مشخص شده است.

در این تحقیق از  ۵۴۰ متخصص در این زمینه  سؤالات خاصی پرسیده شد. گفته می‌شود که اکثر آنها نگرانی‌هایی را درباره احترام نگذاشتن شرکت‌ها و دولت‌ها به تمایل انسان برای کنترل تصمیم‌گیری‌های خود مطرح می‌کنند. برخی از کارشناسان حتی این نگرانی را مطرح کرده‌اند که مردم از هم اکنون به هوش مصنوعی و ماشین‌ها اجازه داده‌اند تصمیمات روزانه زیادی را برای آن‌ها اتخاذ کنند.

بری چوداکوف، بنیان‌گذار و مدیر سرتین ریسرچ، پیش‌بینی کرد: تا سال ۲۰۳۵، رابطه بین انسان‌ها و ماشین‌ها، روبات‌ها و سیستم‌هایی که عمدتا از هوش مصنوعی و خودمختار بهره می‌برند، مانند بحثی به نظر می‌رسد که یک طرف از نارضایتی فریاد می‌زند و طرف دیگر که از وضعیت راضی است لبخند می‌زند.

او  در توضیح بیشتر افزود: این رابطه در واقع مبارزه‌ای است بین فانتزی قاطع انسان‌ها برای مقاومت (من مستقل و مسئول هستم و قدرت تصمیم گیری خود را رها نمی‌کنم) و قدرت فریبنده فناوری که برای تضعیف این خیال طراحی شده است و گویی خود را این طور بیان می‌کند من سریع، راحت و سرگرم‌کننده هستم.

به نقل از کارشناسان دیگر نیز نگرانی‌های چوداکوف مبنی بر اینکه انسان‌ها در تصمیم‌گیری‌های مبتنی بر فناوری آینده دخالت نخواهند کرد، به اشتراک گذاشتند.

کاترین بوسکیل، انسان شناس و کارشناس هوش مصنوعی در شرکت «رند»، افزود: برخی کارکردهای بسیار اساسی زندگی روزمره اکنون کاملا برای ما از دسترس خارج است. مردم تصور چندانی از نحوه ساخت سیستم‌های هوش مصنوعی، کنترل و تعمیر آن‌ها ندارند. در حال حاضر، شکاف بزرگی بین مردم و توسعه دهندگان هوش مصنوعی وجود دارد. ما باید گفتگوهای واقعی عمومیرا شروع کنیم تا بتوانیم مردم را متوجه خطرات این پیشرفت‌ها کنیم.

منبع : همشهری آنلاین 

منبع: خبرگزاری صدا و سیما

کلیدواژه: هوش مصنوعی فناوری تصمیم گیری ها هوش مصنوعی انسان ها سیستم ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.iribnews.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرگزاری صدا و سیما» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۲۴۲۰۹۷ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

هوش مصنوعی ربات‌ها را بهتر از انسان‌ آموزش می‌دهد

به گزارس خبرگزاری علم و فناوری آنا به نقل از نیواطلس، حرکت یک ربات چهارپا روی یک توپ یوگا یک آزمایش سرگرم کننده برای تماشا است؛ اما در واقعیت نشان می‌دهد که هوش مصنوعی مانند «جی‌پی‌تی-۴» (GPT-۴) می‌تواند ربات‌ها را برای انجام کار‌های پیچیده در دنیای واقعی بسیار موثرتر از ما انسان‌ها آموزش دهد.

«د‌ی‌آر یوریکا» (DrEureka) یک بسته نرم‌افزاری متن‌باز جدید است که هر کسی می‌تواند با آن بازی کند. از طریق این بسته نرم‌افزار، ربات‌ها به کمک مدل‌های زبان بزرگ مانند «چت جی‌پی‌تی ۴» (ChatGPT ۴) برای انجام وظایف واقعی آموزش داده می‌شوند. این سیستم «شبیه‌سازی به واقعیت» است، به این معنا که ربات‌ها را در یک محیط مجازی با استفاده از فیزیک شبیه‌سازی شده آموزش می‌دهد و سپس آنها را در محیط واقعی پیاده‌سازی می‌کند.

دکتر جیم فن، یکی از توسعه‌دهندگان «د‌ی‌آر یوریکا»، یک ربات چهارپا از نوع «یونیتیری گو ۱» (Unitree Go۱) را برای جلب توجه به حرکت درآورد. این یک ربات منبع باز «کم هزینه» و با پشتیبانی خوب است. با وجود هوش مصنوعی، ربات‌های خانگی هنوز در معرض آسیب سقوط هستند.

تشویق یک مدل زبان طبیعی به نوشتن کد نیاز به دستورالعمل‌های ایمنی دارد؛ در غیر این صورت، مدل زبان طبیعی تلاش می‌کند بهترین عملکرد ممکن را داشته باشد و در واقع در شبیه‌سازی بدون راهنمایی «تقلب» می‌کند. این در یک شبیه سازی خوب است، اما در دنیای واقعی ممکن است موتور‌ها را بیش‌از حد گرم کند یا اندام‌ها را بیش‌از حد کشیده و به ربات آسیب بزند؛ محققان این پدیده را «رفتار تخریبی» می‌نامند.

در یک مثال از رفتار‌های غیرطبیعی خودآموز، ربات مجازی کشف کرد که با فشار دادن باسن به زمین و استفاده از سه پا برای حرکت در طول زمین، می‌تواند سریع‌تر حرکت کند. این تصویری نسبتاً نگران‌کننده در ذهن من ایجاد می‌کند، اگرچه این رفتار در شبیه‌سازی مزیت بود، در دنیای واقعی باعث آسیب دیدن ربات می‌شد.

بنابراین، محققان به جی‌پی‌تی دستور دادند که با در نظر گرفتن اینکه ربات در دنیای واقعی آزمایش می‌شود، بسیار مراقب باشد و در پاسخ، جی‌پی‌تی عملکرد‌های ایمنی را برای مواردی مانند حرکت صاف، جهت‌گیری بالاتنه، ارتفاع بالاتنه و اطمینان از اینکه موتور‌های ربات وجود دارد ایجاد کرد. اگر ربات از این پارامتر‌ها فرار کند و آنها را نقض کند، عملکرد آن امتیاز پایین‌تری ارائه می‌دهد. درحالی که دستورالعمل‌های ایمنی رفتار‌های تخریبی و غیرطبیعی را کاهش می‌دهند.

در این حالت  مدل هوش مصنوعی «د‌ی‌آر یوریکا» توانست انسان‌ها را شکست دهد و مزیت ۳۴ درصد در سرعت رو به جلو و ۲۰ درصد در مسافت طی شده در زمین‌های مختلط دنیای واقعی را از خود نشان دهد.

طبق گفته محققان، همه چیز به سبک آموزش بستگی دارد. انسان‌ها به سمت یک محیط آموزشی برنامه‌ریزی می‌روند؛ یعنی کار‌ها را به قطعات کوچک تقسیم کرده و سعی می‌کنند آنها را به صورت جداگانه توضیح دهند، در حالی که جی‌پی‌تی این توانایی را دارد که به طور موثر همه چیز را به یکباره آموزش دهد. این چیزی است که ما انسان‌ها قادر به انجام آن نیستیم. «د‌ی‌آر یوریکا» نخستین نمونه از این نوع است. او قادر است از شبیه‌سازی به دنیای واقعی برود.

سازندگان «د‌ی‌آر یوریکا» معتقدند که  اگر بتوانند بازخورد دنیای واقعی را به جی‌پی‌تی ارائه دهند، می‌توانند آموزش سیم به واقعیت را بیشتر بهبود بخشند. در حال حاضر، تمام آموزش‌های شبیه‌سازی با استفاده از داده‌هایسیستم‌های حس عمقی خود ربات انجام می‌شود، اما اگر جی‌پی‌تی بتواند خطا‌ها را طریق ویدیویی واقعی ببیند به جای فقط خواندن خطا‌های اجرایی در گزارش‌های ربات، می‌تواند دستورات خود را به طور موثر‌تری اصلاح کند.

درحالی که انسان به صورت متوسط یک سال و نیم طول می‌کشد تا یاد بگیرد چگونه راه برود و تنها یک قسمت کوچک از ۱ درصد از انسان‌ها می‌توانند روی توپ یوگا راه بروند. 

انتهای پیام/