به نقل از «خبرگزاری آریا»

آيا نگراني‌ درباره هوش مصنوعي جنجال تبليغاتي است؟

تاریخ انتشار: ۱۴ خرداد ۱۴۰۲ | کد خبر: ۳۷۹۰۱۰۲۴

خبرگزاری آریا-یکی از کارشناسان به اسکای‌نیوز می‌گوید که «توجه» به احتمال خطرهای ناشی از هوش مصنوعی ‏مهم است. او تردید دارد که دولت‌ها بتوانند این فناوری را کنترل کنند.
به گزارش خبرگزاری آریا به نقل از ایندیپندنت ،رشد سریع هوش مصنوعی نه‌تنها سبب نگرانی مردم و قانونگذاران شده است، بلکه حتی در میان برخی از پیشگامان فناوری و کسانی که خودشان در بطن ماجرا بوده‌اند نیز نگرانی‌هایی ایجاد کرده است.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

برخی از کارشناسان، از جمله جفری هینتون «پدرخوانده هوش مصنوعی»، هشدار داده‌­اند که هوش مصنوعی درست شبیه به بیماری­‌های همه­‌گیر و جنگ هسته‌­ای می‌تواند انسان را در معرض خطر انقراض قرار دهد.
به گزارش اسکای‌نیوز، از رئیس شرکت سازنده «چت جی‌­پی‌­تی» گرفته تا رئیس آزمایشگاه هوش مصنوعی گوگل، بیش از 350 نفر گفته­‌اند که مدیریت ریسک و مقابله با «خطر انقراض انسان با هوش مصنوعی» باید «اولویت جهانی» باشد
هوش مصنوعی در عین حال که می‌تواند کارهای نجات‌بخشی کند- از جمله طراحی الگوریتم‌های بررسی تصویرهای پزشکی مانند پرتو ایکس و اسکن و سونوگرافی- قابلیت رشد سریع و استفاده گسترده‌تر از آن به نگرانی‌هایی نیز دامن زده است.
مقاله اسکای‌نیوز به برخی از نگرانی­‌های اصلی‌ از کاربرد هوش مصنوعی نگاهی انداخته و به این موضوع پرداخته است که چرا منتقدان برخی از این ترس‌ها را بیش از حد و بی‌مورد می‌دانند.

اطلاعات نادرست و تصویرهای جعلی ساخت هوش مصنوعی
برنامه­‌های کاربردی هوش مصنوعی در وب‌سایت‌های رسانه‌های اجتماعی منتشر و پربازدید شده‌اند. بسیاری از کاربران تصویرهایی جعلی از افراد مشهور و سیاستمداران منتشر می‌کنند و دانشجوها از «چت جی­‌پی‌­تی» و دیگر «الگوهای یادگیری زبان» برای تولید مقاله‌های دانشگاهی استفاده می‌کنند.
یکی از نگرانی‌های کلی در مورد هوش مصنوعی و توسعه آن مربوط به اطلاعات نادرست تولید شده هوش مصنوعی است و اینکه این اطلاعات جعلی چگونه سبب سردرگمی در فضای آنلاین می­‌شود.
پروفسور استوارت راسل، دانشمند بریتانیایی، می‌گوید یکی از بزرگ‌ترین نگرانی‌­ها در مورد اطلاعات نادرست و به‌اصطلاح «دیپ‌فیک» (Deep Fake) است.
دیپ‌فیک به ویدیوها یا عکس‌هایی گفته می‌شود که در آن‌ها صورت یا بدن شخص به صورت دیجیتالی تغییر داده می‌شود و سر و بدن افراد متفاوت روی هم گذاشته می‌شود. این کار را معمولا از روی کینه‌توزی یا برای انتشار عمدی اطلاعات نادرست می‌کنند.
پروفسور راسل می‌­گوید تولید اطلاعات نادرست از مدت‌ها پیش برای هدف‌های «تبلیغاتی» وجود داشته است، اما اکنون تفاوت در این است که مثلا او می‌تواند از چت‌بات آنلاین «جی‌­پی‌تی4» بخواهد که سخنان یک مجری تلویزیونی را به‌کلی به نحو دیگری تغییر دهد.
هفته گذشته، یک تصویر جعلی که به نظر می‌رسید انفجاری در نزدیکی پنتاگون باشد برای مدت کوتاهی در رسانه‌های اجتماعی منتشر و به‌سرعت پربازدید شد. آن تصویر عده‌ای را به راستی‌آزمایی واداشت و خدمات آتش‌نشانی را نیز به واکنش و انتشار بیانیه‌ای در رد آن ادعا وادار کرد.
آن تصویر، که ظاهرا توده بزرگی از دود سیاه را در کنار مقر وزارت دفاع آمریکا نشان می‌داد، گویا با استفاده از فناوری هوش مصنوعی درست شده بود.
آن تصویر نخستین بار در توییتر منتشر شد و حساب‌های خبری تایید شده، اما جعلی، به‌سرعت آن را بازنشر کردند. اما راستی‌آزمایی آن خیلی زود ثابت کرد که هیچ انفجاری در پنتاگون رخ نداده است.
در عین حال، اقدام‌های دیگری نیز در این مورد در جریان است. در ماه نوامبر، دولت تایید کرد که به اشتراک‌گذاری هرزه‌نگاری‌های «دیپ فیک» بدون رضایت افراد بر اساس قانون جدید جرم محسوب

پیشی گرفتن هوش مصنوعی از انسان
سامانه‌های هوش مصنوعی به‌نوعی شبیه‌سازی ماشینی از فرایندهای هوش انسان‌اند. اما آیا به‌راستی این خطر وجود دارد که این سامانه‌ها به اندازه‌ای پیشرفت کنند که از کنترل انسان خارج شوند؟
پروفسور اندرو بریگز از دانشگاه آکسفورد به اسکای‌نیوز گفت که این هراس وجود دارد که در اثر قدرتمندتر شدن ماشین‌ها، روزی فرا برسد که ظرفیت هوش مصنوعی از انسان فراتر رود.
او می‌گوید که در حال حاضر هر چیزی را که ماشین باید بهینه کند انسان انتخاب می‌کند. ممکن است این انتخاب با هدف مثبت یا منفی صورت بگیرد. در حال حاضر، انسان است که درباره آن تصمیم می‌گیرد.
به گفته او، هراس اینجاست که وقتی ماشین‌ها مدام باهوش‌تر و قدرتمندتر می‌شوند، چه‌بسا روزی فرا برسد که ظرفیت هوش مصنوعی بسیار بیشتر از ظرفیت انسان‌ باشد و انسان‌ها توانایی کنترل آنچه را ماشین به دنبال بهینه‌سازی‌اش است از دست بدهند.
او می‌گوید که از همین رو، توجه به احتمال آسیب دیدن از هوش مصنوعی مهم است. بریگز اضافه می‌کند: ‌«این موضوع برای من یا هیچ‌یک از ما روشن نیست که آیا دولت‌­ها واقعا می‌دانند این موضوع را چگونه می‌توان به شکلی ایمن حل و فصل کرد یا نه.»
همچنین، نگرانی‌های بسیار دیگری نیز در مورد هوش مصنوعی وجود دارد- از جمله اثر آن بر آموزش. به‌خصوص، با در نظر گرفتن هشدارهایی که کارشناسان درباره انتشار مقاله‌ و از دست رفتن مشاغل طرح می‌کنند.

آخرین هشدار
در میان امضاکنندگان بیانیه «مرکز ایمنی هوش مصنوعی» نام هینتون و یوشوا بنجیو- دو تن از سه پدرخوانده هوش مصنوعی- نیز دیده می‌شود که به پاس کار خود در زمینه یادگیری عمیق، جایزه تورینگ 2018 را گرفتند.
اما این نخستین بار نیست که شاهد نگرانی کارشناسان فناوری در خصوص توسعه هوش مصنوعی هستیم.
در ماه مارس، ایلان ماسک و گروهی از کارشناسان هوش مصنوعی، به‌دلیل آنچه خطرهای احتمالی برای جامعه و بشر می‌خواندند، خواستار توقف آموزش سامانه‌های هوش مصنوعی قوی شدند.
در نامه‌ای که موسسه غیرانتفاعی «فیوچر آف لایف» تنظیم کرد و بیش از 1000 نفر آن را امضا کردند، امضاکنندگان در مورد خطرهای احتمالی سامانه‌های هوش مصنوعی رقیب انسان برای جامعه و تمدن هشدار داده بود. در آن نامه آمده بود که هوش مصنوعی ممکن است در قالب اختلال‌های اقتصادی و سیاسی برای جامعه و تمدن خطرساز باشد.
این عده خواستار توقف شش ماهه «رقابت خطرناک» برای توسعه سامانه‌­های قدرتمندتر از «جی‌پی‌­تی4» شده بودند، سامانه‌­ای که «اوپن‌­ای‌­آی» به‌تازگی راه‌اندازی کرده است.
همچنین، در اوایل این هفته، نخست‌وزیر بریتانیا ریشی سوناک با مدیر اجرایی گوگل ملاقات کرد تا در مورد «ایجاد تعادل مناسب» میان قوانین هوش مصنوعی از یک سو، و نوآوری از سوی دیگر صحبت کند. دفتر نخست‌وزیری گفت که نخست‌وزیر با «ساندار پیچای» در مورد اهمیت تضمین وجود «نرده‌­های محافظ» مناسب برای اطمینان از ایمنی فنی صحبت کرده است.

هشدارهای «بی‌مورد» یا خطری جدی؟
اگرچه برخی از کارشناسان با بیانیه مرکز ایمنی هوش مصنوعی موافق‌اند، برخی دیگر در این زمینه مفهوم «پایان تمدن بشری» را ادعایی «بی‌ربط و بی‌اساس» می‌خوانند.
پدرو دومینگوس، استاد علوم و مهندسی رایانه در دانشگاه واشنگتن، در توییتی نوشت: «یادآوری: بیشتر محققان هوش مصنوعی فکر می‌کنند این که هوش مصنوعی به تمدن بشری پایان می‌دهد بی‌ربط است.»
هینتون در ادامه پرسید که برنامه دومینگوس برای ایمنی هوش مصنوعی و اینکه هوش مصنوعی کنترل را از دست ما در نیاورد چیست. پروفسور دومینگوس پاسخ داد: «همین حالا هم هر روزه افرادی که حتی به اندازه شما باهوش نیستند شما را کنترل و بازیچه خودشان می‌کنند، اما به هر حال، هنوز سر جای‌ خودتان هستید و مشکلی ندارید. پس چرا فکر می‌کنید که این نگرانی بزرگ در مورد هوش مصنوعی موضوعی خاص و متفاوت است؟»

منبع: خبرگزاری آریا

کلیدواژه: هوش مصنوعی جنجال تبلیغاتی اطلاعات نادرست هوش مصنوعی هوش مصنوعی اسکای نیوز نگرانی ها سامانه ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.aryanews.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرگزاری آریا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۹۰۱۰۲۴ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

سکوت در ماجرای سنگلج جایز نیست!

یک فعال هنری و کارشناس میراث فرهنگی، با ابراز تاسف از وضعیت تخریب ساختمان مجاور تماشاخانه سنگلج، سکوت شهرداری را در این زمینه، نشان‌گر کم‌توجهی به جامعه هنری دانست.

به دنبال تخریب ساختمان مجاور تماشاخانه سنگلج که نگرانی‌هایی را بابت امنیت این تماشاخانه قدیمی تهران ایجاد کرده، ابراهیم گله‌دارزاده، فعال تئاتر و کارشناس میراث فرهنگی به ایسنا گفت: در این ماجرا سه مرحله بی‌سلیقگی رخ داده است. اولین نکته اینکه، پیش از تخریب ساختمان کناری تماشاخانه باید اطلاع‌رسانی می‌شد. اگر خانواده تئاتر و مخاطبان از پیش در جریان این تخریب بودند، نه این گونه دچار نگرانی می‌شدند و نه گروه‌های در حال اجرا متضرر می‌شدند اما در حال حاضر گروهی که مشغول اجرای نمایش خود بوده، دچار زیان شده. زیرا مخاطب برای حضور در تماشاخانه احساس ناامنی می‌کند و حق هم دارد چون وقتی ساختمان کناری با ابزارآلات سنگینی تخریب می‌شود، طبیعی است که هم گروه اجرایی و هم مخاطبان احساس ناامنی کنند. در حالیکه اگر از قبل اطلاع‌رسانی می‌شد، با این همه مساله مواجه نمی‌شدیم.

او ادامه داد: از سوی دیگر اگر پیش از تخریب، اطلاع‌رسانی می‌شد، کارشناسان میراث فرهنگی می‌توانستند به اجرای بهتر این تصمیم‌گیری کمک کنند . آنان با اظهارنظرهای کارشناسانه خود به کل فرآیند این ساخت و ساز کمک می‌کردند اما بی‌خبری جامعه هنری و میراث فرهنگی، همه را دچار سوءتفاهم و سردرگمی می‌کند.

گله‌دارزاده با اشاره به اینکه در مرحله تخریب هم اطلاع‌رسانی انجام نمی‌شود، افزود: حالا هم که ساختمان در حال تخریب است، باز هم هیچ گونه اطلاعاتی درباره چگونگی این تخریب اعلام نشده و هیچ ضمانتی بابت تامین امنیت تماشاخانه سنگلج داده نشده است. در تصاویری که از تخریب ساختمان مجاور منتشر شده، هیچ گونه سازه پشتیبانی که بتواند امنیت سنگلج را تامین کند، به چشم نمی‌خورد.

او با تاکید بر ضرورت حضور کارشناسان میراث فرهنگی در مراحل تخریب و ساخت و ساز ساختمان کناری تماشاخانه سنگلج ادامه داد: با توجه به صحبت‌هایی که انجام شده، میراث فرهنگی نظارت چندانی بر این پروژه ندارد در حالیکه کارشناس میراث باید در طول اجرای پروژه در محل مستقر باشد تا جلوی آسیب‌های احتمالی به تماشاخانه گرفته شود. اما متاسفانه معمولا اقدامات ما، بعد از وقوع فجایع و مشکلات رخ می‌دهد و جنبه پیشگیرانه ندارد.

گله‌دارزاده اضافه کرد: در چنین پروژه‌هایی معمولا پیمانکار هزینه‌های پشتیبانی را کاهش می‌دهد چون در صورت بروز هر حادثه‌ای، بیمه را موظف به جبران آن می‌داند. بنابراین علاقه‌مند است کارش را با هزینه کم و سرعت بالا پیش ببرد در حالیکه نباید پیمانکار را رها کرد تا طبق دلخواه خود عمل و به امنیت ساختمان بی‌توجهی کند.

مدیر پیشین مجموعه تئاتر شهر خاطرنشان کرد: درباره آینده این پروژه هم اطلاع‌رسانی نشده و معلوم نیست قرار است چه اتفاقی رخ بدهد در حالیکه هر گونه ساخت و سازی در مجاورت تماشاخانه سنگلج باید طبق قوانین ساختمان‌های

ثبت‌شده در میراث ملی باشد و این شامل ارتفاع ساختمان مجاور و شکل و شمایل آن نیز می‌شود ولی ما اصلا نمی‌دانیم بعد از این تخریب، چگونه ساخت و سازی انجام خواهد شد.

او با تاکید بر وظایف شهرداری‌ها در گسترش فضاها و فعالیت‌های فرهنگی و هنری یادآوری کرد: همان گونه که توضیح دادم، در تخریب ساختمان کناری تماشاخانه سنگلج در هیچ یک از سه مرحله پیش از تخریب، حین و بعد از تخریب، اطلاع‌رسانی انجام نشده و این برازنده شهرداری تهران که بر در و دیوار شهر اشعار شاعران بزرگ این کشور از سعدی تا دیگر شاعران نامدار معاصر را نصب و تلاش می‌کند خود را به عنوان یک چهره فرهنگی نشان بدهد، نیست. این رفتار ما را دچار تناقض می‌کند که آن اقدامات شهرداری، جنبه تبلیغاتی دارد.

او همچنین از سکوت شهرداری درباره انتقادها و هشدارهایی که بعد از تخریب این ساختمان مطرح شده، نیز ابراز تاسف کرد و افزود: این سکوت، یک بی‌سلیقگی بزرگ رسانه‌ای است چراکه حتما باید درباره این موضوع اطلاع‌رسانی می‌شد. از سوی دیگر، ساختمان مجاور سنگلج سال‌ها محل بحث بود تا با پیوستن به این تماشاخانه، ضمیمه سرانه فرهنگی تهران بشود. این موضوع در ادوار گوناگون شورای شهر، شهرداری و نیز ارشاد مورد بحث بوده و بزرگان هنر کشورمان خواستار اجرای آن بودند اما با تخریب ساختمان مجاور تماشاخانه، همه تلاش‌ها، پیگیری‌ها و بحث و گفتگوها بی‌نتیجه ماند.

گله دارزاده با تاکید بر اینکه شهرداری نباید از کنار مسائل فرهنگی به سادگی گذر کند، توضیح داد: در اقدام اخیر شهرداری در مجاورت سنگلج به نظر می‌رسد که شهرداری معتقد است این ساختمان متعلق به ماست و هر کاری بخواهیم با آن انجام می‌دهیم. در حالیکه در خاورمیانه تماشاخانه‌های قدیمی خیلی زیادی نداریم و سنگلج در کنار چند تماشاخانه دیگر در شهرهای دیگری کشورمان، جزو معدود تماشاخانه‌های قدیمی این منطقه از جهان است. چنین تماشاخانه‌ای در هر کشوری به عنوان یکی از جاذبه‌های مهم گردشگری به شمار می‌آید. بی‌تفاوتی و تهدید این ساختمان از سوی نهادی که اشعار شاعران بزرگ را بر در و دیوار می‌زند، زیبنده نیست. بخصوص که فاصله تماشاخانه سنگلج تا شورای شهر و شهرداری فقط چند صد متر است.

این کارشناس میراث فرهنگی متذکر شد: بسیاری از شهروندان تهرانی به دلیل ویژگی‌های بنای سنگلج با آن عکس یادگاری دارند یعنی این ساختمان، بخشی از خاطره جمعی مردم ما و جزو نمادهای شهر ما تلقی می‌شود. در تمام جهان، نهاد شهرداری، توجه خاصی به چنین نمادهایی دارد و خودش حافظ چنین بناهایی است اما حالا شهرداری ما ،خود، مسبب نگرانی خانواده فرهنگ و هنر و مخاطبان شده است.

گله‌دارزاده با ابراز تاسف از سکوت شهرداری در پاسخ به انتقادات و نگرانی جامعه هنری در چند روز اخیر ادامه داد: درباره این موضوع مدام خبرهایی منتشر می‌شود ولی هیچ کسی پاسخگو نیست. مساله اصلی، یافتن مقصر یا خطاکار نیست بلکه تامین امنیت تماشاخانه سنگلج و رفع نگرانی جامعه هنری است و تنها جایی که می‌تواند این نگرانی را برطرف کند، خود شهرداری است ولی در هیچ یک از رسانه‌ها، پاسخی از سوی این نهاد ندیدیم.

او در پاسخ به اینکه شاید این سکوت و پرهیز از اطلاع رسانی به این دلیل بوده که جامعه هنری را در عمل انجام شده قرار بدهند، توضیح داد: امیدوارم چنین نباشد و شفاف‌سازی صورت بگیرد. از شهرداری که خود باید مراقب اماکنی مانند تماشاخانه سنگلج باشد و برای توسعه آن و دسترسی بهتر شهروندان به آن کوشا باشد، انتظار می‌رود هر چه زودتر این نگرانی را برطرف کند و این پاسخگو نبودن پسندیده شهرداری نیست. زیرا یا نشان‌گر بی‌اعتنایی به این همه پرسش و نگرانی است که زیبا نیست یا شاید برای رو به رو نشدن با مخالفت‌های احتمالی است در حالیکه باید مساله را شفاف مطرح کنند. یا می‌توانند مخالفان را قانع کنند یا باید مشکلات احتمالی را که از سوی آنان مطرح می‌شود، برطرف کنند تا پروژه با حداقلِ خطا جلو برود. بنابراین از هر زاویه که بنگریم، این سکوت نه مقرون به صرفه است نه منطقی و نشان‌گر بی‌توجهی به خانوده زحمت‌کش و شریف تئاتر است و امیدوارم هر چه زودتر پاسخ بدهند.

انتهای پیام