به گزارش روابط عمومی مرکز گسترش سینمای مستند، تجربی و پویانمایی، کارگاه «هوش مصنوعی و چالش اعتماد، هوش مصنوعی و جنبه‌های فلسفی و اجتماعی» با حضور امیرحسن موسوی و سروش زرگرباشی روز چهارشنبه ۲۱ آذر در چهارمین روز هجدهمین دوره جشنواره «سینماحقیقت» برگزار شد.
مهرداد زاهدیان مستندساز و رئیس انجمن صنفی کارگردانان سینمای مستند در ابتدای این کارگاه گفت: موضوع هوش مصنوعی، به‌کارگیری محصولاتی که توسط هوش مصنوعی تولید شده‌اند و چالش این محصولات برای حوزه سینمای مستند موضوعات مهمی هستند که باید به آن‌ها توجه کنیم. در این راستا از استاد موسوی و زرگرباشی دعوت کردیم تا اطلاعاتشان را در اختیارمان قرار دهند.
هوش مصنوعی مخاطراتی به همراه دارد
زرگرباشی که به صورت آنلاین در این جلسه حضور داشت در ابتدا عنوان کرد: امروز می‌خواهم درباره «هوش مصنوعیِ قابل اعتماد» صحبت کنم و اینکه چه خطراتی وجود دارد که باعث می‌شود ما نتوانیم به هوش مصنوعی اعتماد کنیم.
وی افزود: به طور مثال در مدل‌های هوشمندی مانند Chat GPT ورودی به مدل داده می‌شود و مدل باید سعی کند اولین لغت بعد از ورودی را حدس بزند و این مدل مدام تکرار می‌شود. به طور مثال برای Chat GPT هزاران پارامتر تعریف شده است.
این محقق درباره چالش‌های استفاده از هوش مصنوعی عنوان کرد: چالش عدالت این است که ما در گذشته مقالاتی داشتیم که عادلانه نبوده‌اند و اگر ما مدل هوش مصنوعی را به جای انسان بگذاریم، هوش مصنوعی از روی داده‌ها عمل می‌کند و در آینده نیز ممکن است مدام این رفتارهای ناعادلانه را تکرار کند. چالش حریم شخصی دیگر چالش هوش مصنوعی است؛ همه افراد در گوشی خودشان بخش گالری عکس دارند و ما می‌توانیم در آنجا عکس‌هایمان را براساس موضوعات مختلف جستجو کنیم. درواقع این برنامه از روی داده‌های ما عکس موردنظر را پیدا می‌کند.
وی افزود: چالش بعدی عدم قطعیت است. خیلی جاها ما از مدلمان در جایی استفاده می‌کنیم که اشتباه کردن در آنجا بسیار خطرناک است. مثلا در خودروسازی ما خودروهایی داریم که به صورت اتوماتیک حرکت می‌کنند یا در علم پزشکی برخی بیماری‌ها را از طریق مدل هوش مصنوعی بررسی می‌کنند. ما در اینجا باید نسبت به خروجی اطلاعات اعتماد کامل داشته باشیم. چالش بعدی تفسیرپذیری مدل هوش مصنوعی است. این اتفاق در جایی خطرناک است که شما می‌خواهید از هوش مصنوعی در علم پزشکی استفاده کنید و در اینجا مهم است که مدل هوش مصنوعی براساس چه داده‌هایی آموزش دیده باشد.
زرگرباشی تصریح کرد: مدل‌های بزرگ زبانی چالش بعدی است و ممکن است که مدل در یک جمله‌بندی کاملا زیبا، کلمه‌ای را به کار ببرد که در زبان مقصد معنای غلطی دارد. چالش انرژی در آینده بسیار جدی‌تر خواهد بود. به طور مثال Chat GPT سری سوم حدود ۱۰۰ میلیون پارامتر داشته و انرژی برابر با صدها میلیون خانوار را استفاده کرده است.
وی در پایان عنوان کرد: هوش مصنوعی مهم است اما مهم این است که بدانیم هوش مصنوعی مخاطراتی به همراه دارد و باید مراقب باشیم که در فرایند یادگیری و استفاده از هوش مصنوعی حواسمان به این مخاطرات باشد.
هوش مصنوعی میدانی از تخصص‌های گوناگون است
در بخش بعدی این کارگاه امیرحسین موسوی گفت: موضوع هوش مصنوعی امروزه صرفا یک مساله تکنیکال با ابعاد فنی نیست بلکه یک ماجرای پیچیده فلسفی، هنری، سیاسی، امنیتی و… شده است.
وی افزود: می‌خواهم در اینجا کتاب «عصر هوش مصنوعی و آینده انسان» را به شما معرفی کنم که نویسندگان جالبی هم دارد. توصیه می‌کنم این کتاب را بخوانید و بدانید که هوش مصنوعی میدانی از تخصص‌های گوناگون است. برای من جالب است که هوش مصنوعی چه ویژگی دارد که می‌تواند تمام شاخه‌ها و دانش‌ها را گردهم جمع کند؟
موسوی بیان کرد: ما در طول تاریخ اندیشه یکسری سوالات درباره مسائل مختلف داشته‌ایم و هر پاسخی به این سوالات می‌دادیم مزایا و معایبی داشتند. درواقع نوع پاسخ ما به این پرسش‌‌ها، جوامع متفاوت را شکل داده است. اکنون هوش مصنوعی در روند یادگیری از ما پاسخ یکتا و واحد می‌خواهد. این یکی از ویژگی‌های منحصربفرد هوش مصنوعی است.
وی درباره ترس‌های بشر از پیشرفت تکنولوژی گفت: با بررسی تاریخ تکنولوژی درمی‌یابیم که همواره بشر نسبت به گسترش تکنولوژی ترس داشته است. مثلا ترس از دست دادن شغل تقریبا از سال ۱۸۰۰ میلادی تاکنون میان آدم‌ها وجود داشته است اما جالب است بدانید که در طول تاریخ به ازای هر شغلی که ازبین رفته، ۱۸ شغل جدید به وجود آمده است.
این روزنامه‌نگار حوزه علم تصریح کرد: امروزه فیلسوفان تکنولوژی جوامع انسانی را مقهور تکنولوژی نمی‌دانند. در طرف مقابل نیز تکنولوژی پدیده‌ای برای خوشبختی انسان امروز نیست زیرا نهایت این تفکر به ساخت بمب اتم ختم می‌شود.
وی درباره تاریخچه هوش مصنوعی توضیح داد: تا سال ۱۹۸۰ جهان مهندسان هوش مصنوعی، جهان افلاطونی بود زیرا سعی داشتند تعریف جامعی از پدیده‌های جهانی برای هوش مصنوعی ارائه کنند. در سال‌های بعد مهندسان سعی کردند با تشخیص الگو، مدل‌های هوش مصنوعی را آموزش دهند.
موسوی در پایان درباره آگاهی هوش مصنوعی بیان کرد: برخی از فیلسوفان یگانه‌انگار معتقدند که آگاهی چیزی نیست جز دستوری نحوی که مابه‌ازای فیزیکی دارد. یعنی انسان چیزی جز بیولوژی نیست. فیلسوفان دوگانه‌انگار نیز معتقدند که تعامل فیزیک و روح انسان آگاهی او را می‌سازد. اگر قرار باشد که ماشین‌های هوش مصنوعی به آگاهی برسند ناگزیر باید براساس نظریات یگانه‌انگارها پیش برویم.
موسوی در پایان گفت: همه تکنولوژی‌ها تاکنون امتداد قوای فیزیکی ما بوده‌اند. یعنی آدمی بخشی از توانایی فیزیکی خودش را به ماشین می‌سپارد. هوش مصنوعی در راستای قوای ذهنی انسان است و نگرانی شخصی من از آینده هوش مصنوعی این است که قوای انسانی و ذهنی ما را از بین ببرد.
Facebook
Twiter
Telegram
چاپ
اخبار مرتبط
در کارگاه «هوش مصنوعی و اعتبار سینمای مستند» چه می‌گذرد؟
1403-09-18
در کارگاه «هوش مصنوعی و اعتبار سینمای مستند» چه می‌گذرد؟
جستجو
بگرد
مطالب
اخبار
ویدیو
گالری
کتاب
مقاله
کارگاه های آموزشی
پادکست
رویداد
فصل نامه
آخرین اخبار
«سینماحقیقت» فرصت بازنمایی صداقت و صراحت است
1403-09-21
«سینماحقیقت» فرصت بازنمایی صداقت و صراحت است
هوش مصنوعی انسانیت را زیرسوال می‌برد
1403-09-21
هوش مصنوعی انسانیت را زیرسوال می‌برد
تولید انیمیشن
تولید انیمیشن کوتاه
تولید انیمیشن نیمه‌بلند
تولید انیمیشن بلند سینمایی
تولید مستند
تولید مستند
تولید مستند در استان‌ها
تولید فیلم مستند با مشارکت خارجی
درباره ما
معرفی مرکز
جشنواره حقیقت
بانک اطلاعات تولیدات مرکز
سامانه خدمات ثبت طرح و تولید
مرکز گسترش سینمای مستند، تجربی و پویانمایی
مرکز گسترش سینمای مستند، تجربی و پویانمایی
تهران، خیابان سهروردی شمالی، میدان شهید قندی (پالیزی)، شماره 15
صندوق پستی: 1556916613
تلفن: 88511231
تمام حقوق متعلق است به © مرکز گسترش سینمای مستند و تجربی و پویانمایی
مرکز گسترش سینمای مستند، تجربی و پویانمایی
چهارشنبه 21 آذر 1403 | اخبار مرکز ، مستند | هوش مصنوعی ، سینماحقیقت18
هوش مصنوعی انسانیت را زیرسوال می‌برد
هوش مصنوعی انسانیت را زیرسوال می‌برد
کارگاه «هوش مصنوعی و چالش اعتماد، هوش مصنوعی و جنبه‌های فلسفی و اجتماعی» با حضور امیرحسن موسوی و سروش زرگرباشی در چهارمین روز جشنواره سینماحقیقت برگزار شد.
به گزارش روابط عمومی مرکز گسترش سینمای مستند، تجربی و پویانمایی، کارگاه «هوش مصنوعی و چالش اعتماد، هوش مصنوعی و جنبه‌های فلسفی و اجتماعی» با حضور امیرحسن موسوی و سروش زرگرباشی امروز چهارشنبه ۲۱ آذر در چهارمین روز هجدهمین دوره جشنواره «سینماحقیقت» برگزار شد.
مهرداد زاهدیان مستندساز و رئیس انجمن صنفی کارگردانان سینمای مستند در ابتدای این کارگاه گفت: موضوع هوش مصنوعی، به‌کارگیری محصولاتی که توسط هوش مصنوعی تولید شده‌اند و چالش این محصولات برای حوزه سینمای مستند موضوعات مهمی هستند که باید به آن‌ها توجه کنیم. در این راستا از استاد موسوی و زرگرباشی دعوت کردیم تا اطلاعاتشان را در اختیارمان قرار دهند.
هوش مصنوعی مخاطراتی به همراه دارد
زرگرباشی که به صورت آنلاین در این جلسه حضور داشت در ابتدا عنوان کرد: امروز می‌خواهم درباره «هوش مصنوعیِ قابل اعتماد» صحبت کنم و اینکه چه خطراتی وجود دارد که باعث می‌شود ما نتوانیم به هوش مصنوعی اعتماد کنیم.
وی افزود: به طور مثال در مدل‌های هوشمندی مانند Chat GPT ورودی به مدل داده می‌شود و مدل باید سعی کند اولین لغت بعد از ورودی را حدس بزند و این مدل مدام تکرار می‌شود. به طور مثال برای Chat GPT هزاران پارامتر تعریف شده است.
این محقق درباره چالش‌های استفاده از هوش مصنوعی عنوان کرد: چالش عدالت این است که ما در گذشته مقالاتی داشتیم که عادلانه نبوده‌اند و اگر ما مدل هوش مصنوعی را به جای انسان بگذاریم، هوش مصنوعی از روی داده‌ها عمل می‌کند و در آینده نیز ممکن است مدام این رفتارهای ناعادلانه را تکرار کند. چالش حریم شخصی دیگر چالش هوش مصنوعی است؛ همه افراد در گوشی خودشان بخش گالری عکس دارند و ما می‌توانیم در آنجا عکس‌هایمان را براساس موضوعات مختلف جستجو کنیم. درواقع این برنامه از روی داده‌های ما عکس موردنظر را پیدا می‌کند.
وی افزود: چالش بعدی عدم قطعیت است. خیلی جاها ما از مدلمان در جایی استفاده می‌کنیم که اشتباه کردن در آنجا بسیار خطرناک است. مثلا در خودروسازی ما خودروهایی داریم که به صورت اتوماتیک حرکت می‌کنند یا در علم پزشکی برخی بیماری‌ها را از طریق مدل هوش مصنوعی بررسی می‌کنند. ما در اینجا باید نسبت به خروجی اطلاعات اعتماد کامل داشته باشیم. چالش بعدی تفسیرپذیری مدل هوش مصنوعی است. این اتفاق در جایی خطرناک است که شما می‌خواهید از هوش مصنوعی در علم پزشکی استفاده کنید و در اینجا مهم است که مدل هوش مصنوعی براساس چه داده‌هایی آموزش دیده باشد.
زرگرباشی تصریح کرد: مدل‌های بزرگ زبانی چالش بعدی است و ممکن است که مدل در یک جمله‌بندی کاملا زیبا، کلمه‌ای را به کار ببرد که در زبان مقصد معنای غلطی دارد. چالش انرژی در آینده بسیار جدی‌تر خواهد بود. به طور مثال Chat GPT سری سوم حدود ۱۰۰ میلیون پارامتر داشته و انرژی برابر با صدها میلیون خانوار را استفاده کرده است.
وی در پایان عنوان کرد: هوش مصنوعی مهم است اما مهم این است که بدانیم هوش مصنوعی مخاطراتی به همراه دارد و باید مراقب باشیم که در فرایند یادگیری و استفاده از هوش مصنوعی حواسمان به این مخاطرات باشد.
هوش مصنوعی میدانی از تخصص‌های گوناگون است
در بخش بعدی این کارگاه امیرحسین موسوی گفت: موضوع هوش مصنوعی امروزه صرفا یک مساله تکنیکال با ابعاد فنی نیست بلکه یک ماجرای پیچیده فلسفی، هنری، سیاسی، امنیتی و… شده است.
وی افزود: می‌خواهم در اینجا کتاب «عصر هوش مصنوعی و آینده انسان» را به شما معرفی کنم که نویسندگان جالبی هم دارد. توصیه می‌کنم این کتاب را بخوانید و بدانید که هوش مصنوعی میدانی از تخصص‌های گوناگون است. برای من جالب است که هوش مصنوعی چه ویژگی دارد که می‌تواند تمام شاخه‌ها و دانش‌ها را گردهم جمع کند؟
موسوی بیان کرد: ما در طول تاریخ اندیشه یکسری سوالات درباره مسائل مختلف داشته‌ایم و هر پاسخی به این سوالات می‌دادیم مزایا و معایبی داشتند. درواقع نوع پاسخ ما به این پرسش‌‌ها، جوامع متفاوت را شکل داده است. اکنون هوش مصنوعی در روند یادگیری از ما پاسخ یکتا و واحد می‌خواهد. این یکی از ویژگی‌های منحصربفرد هوش مصنوعی است.
وی درباره ترس‌های بشر از پیشرفت تکنولوژی گفت: با بررسی تاریخ تکنولوژی درمی‌یابیم که همواره بشر نسبت به گسترش تکنولوژی ترس داشته است. مثلا ترس از دست دادن شغل تقریبا از سال ۱۸۰۰ میلادی تاکنون میان آدم‌ها وجود داشته است اما جالب است بدانید که در طول تاریخ به ازای هر شغلی که ازبین رفته، ۱۸ شغل جدید به وجود آمده است.
این روزنامه‌نگار حوزه علم تصریح کرد: امروزه فیلسوفان تکنولوژی جوامع انسانی را مقهور تکنولوژی نمی‌دانند. در طرف مقابل نیز تکنولوژی پدیده‌ای برای خوشبختی انسان امروز نیست زیرا نهایت این تفکر به ساخت بمب اتم ختم می‌شود.
وی درباره تاریخچه هوش مصنوعی توضیح داد: تا سال ۱۹۸۰ جهان مهندسان هوش مصنوعی، جهان افلاطونی بود زیرا سعی داشتند تعریف جامعی از پدیده‌های جهانی برای هوش مصنوعی ارائه کنند. در سال‌های بعد مهندسان سعی کردند با تشخیص الگو، مدل‌های هوش مصنوعی را آموزش دهند.
موسوی در پایان درباره آگاهی هوش مصنوعی بیان کرد: برخی از فیلسوفان یگانه‌انگار معتقدند که آگاهی چیزی نیست جز دستوری نحوی که مابه‌ازای فیزیکی دارد. یعنی انسان چیزی جز بیولوژی نیست. فیلسوفان دوگانه‌انگار نیز معتقدند که تعامل فیزیک و روح انسان آگاهی او را می‌سازد. اگر قرار باشد که ماشین‌های هوش مصنوعی به آگاهی برسند ناگزیر باید براساس نظریات یگانه‌انگارها پیش برویم.
موسوی در پایان گفت: همه تکنولوژی‌ها تاکنون امتداد قوای فیزیکی ما بوده‌اند. یعنی آدمی بخشی از توانایی فیزیکی خودش را به ماشین می‌سپارد. هوش مصنوعی در راستای قوای ذهنی انسان است و نگرانی شخصی من از آینده هوش مصنوعی این است که قوای انسانی و ذهنی ما را از بین ببرد.
