Scary Intelligence | هوش ترسناک

این قسمت رو با تمرکز بر عاملیت هوش مصنوعی ادامه میدیم. با این سوال شروع می کنیم که پیامدهای دسترسی بیشتر هوش مصنوعی به تمام ابزارها، سیستم های عامل، و فایل های شخصی ما چیه. مدل های پیشرفته ای مثل Fable/Mythos و توانایی های شگفت انگیز اونها آینده ی همه ی ما رو تحت تاثیر قرار خواهند داد. در این میان، توهم انتخاب، راحتی، سرعت، و اثر شبکه ای باعث میشن که به سادگی تمام اختیارات و دسترسی ها رو به ماشین ها واگذار کنیم. در ترکیب با خطرات امنیتی و آسیب پذیری های پنهان و نظارت های کلان دولتی، هوش مصنوعی آینده ی ترسناک رو پیش روی ما میذاره: در دنیایی که اتوماسیون همه چیز رو بر عهده می گیره، ما چه مهارتی رو باید زنده نگه داریم؟
---
اصلاحیه: در هنگام ضبط، احسان از کلمه ی Lone Pine استفاده کرد، اما نام درست پایگاهی که از اون صحبت می کنه Pine Gap هست.
لینک کابل های زیردریایی اینترنت:  https://www.submarinecablemap.com

این قسمت رو به یکی از موضوعات داغ روز در زمینه ی هوش مصنوعی اختصاص دادیم: هوش تجسم یافته (Emboddied AI)، یا لحظه ای که هوش مصنوعی از صفحات نمایشگر و جعبه های متنی چت بات ها خارج شده، و در قالب کالبدی فیزیکی و رباتیک وارد فضای واقعی زندگی ما میشه.از ورود ربات های شبه انسان به منازل شخصی می گیم، و تفاوت های درجه ی آزادی فیزیکی و مکانیکی ربات و انسان رو بررسی می کنیم. حمید از این میگه که ربات ها چطور از یک شبکه ی تجربیات و یادگیری جمعی استفاده می کنن، و احسان از پاسخگویی، مسئولیت، و عاملیت اخلاقی هوش مصنوعی صحبت می کنه.
در پایان، به سوالی می رسیم که این روزها کلید صحبت های مربوط به این زمینه هست: آیا به "هوش عمومی مصنوعی"، یا همون AGI رسیده ایم؟

در این قسمت از برنامه به بررسی تحولات شتابان هوش مصنوعی و ورود به نسل جدید تعامل با سیستم های هوشمند می پردازیم. با گذر از چت بات های متنی ساده و حرکت به سمت مدل های چندوجهی، مفهوم ایجنت ها (مستشارها) و قابلیت های همکاری با ابزارهای هوش مصنوعی مورد توجه زیادی قرار گرفته.
حمید، احسان، و رضا در رابطه با تفاوت های بنیادین مدل های زبانی بزرگ به عنوان "مغز متفکر"، و ایجنت های خودمختار به عنوان "بازوی اجرایی" صحبت می کنن. از چالش ها و خطرات ایجنت های خودمختار می گن، و نیم نگاهی به بررسی پدیده ی توهم هوش مصنوعی میندازن. راستی، هوش مصنوعی کجا مهارت های ما رو تقویت می کنه، و کجا صرفا ابزاری برای سرعت بخشیدن به کارهای روتین و تکراری هست؟

در این قسمت از پادکست، به بررسی عمیق تر مفهوم ترس و لایه های مختلف اون می پردازیم. مفهوم ترس رو از منظر بیولوژیکی و تکاملی در انسان ها و حیوانات، و تحلیل رفتار هوش مصنوعی در حفظ بقا و اجتناب از خطا بررسی می کنیم.
آیا ترس بدون تجربه ی حسی و ادراک واقعی معنا داره؟ فرق محاسبات احتمالی ماشین با درک مفاهیم انسانی در چیست؟ آیا معناسازی با تجربیات حسی ارتباط داره یا نه؟ آیا هوش مصنوعی به آگاهی رسیده یا خواهد رسید؟

در قسمت بیست و هشتم هوش ترسناک، به مرور و جمع بندی تحولات شگفت انگیز و گاها نگران کننده ی سال 2025 در حوزه ی هوش مصنوعی می پردازیم.
در یک سال، هوش مصنوعی از قالب یک ابزار ساده یا مدل ماشینی عبور کرد و به سیستم های خودمختار، روباتیک، و حل کننده ی پیچیده ترین مسائل علمی تبدیل شد. به مرور، این تکنولوژی به همراهان هم زیست ما هم تبدیل خواهد شد.آیا توکن ها هنوز نفت جدید هستن، یا بهتره به اونها اورانیوم جدید بگیم؟ آیا مرز میان انسان (سوژه) و ماشین (اوبژه) در حامل کمرنگ شدنه؟ آیا ماشین های هوشمند می تونن در سطح کلان برای جوامع بشری تصمیم گیری کنن؟ و آیا ما آماده ی به اشتراک گذاشتن جهان با موجودات هوشمند غیر کربنی هستیم؟