مقالات

اجلاس ایمنی هوش مصنوعی بریتانیا – واکنش کارشناسان


رهبران جهان، مدیران فناوری و دانشگاهیان در لندن گرد هم می آیند بالا در مورد ایمنی Frontier AI.

هدف از این رویداد شروع یک بحث جهانی در مورد مقررات آینده فناوری های پیشرفته است.

SMC نظر کارشناسان محلی را جویا شد.

دکتر اندرو لنسن، مدرس ارشد هوش مصنوعی، دانشگاه ویکتوریا ولینگتون، اظهار داشت:

دیدن این نشست عالی است. من از تمرکز بر “هوش مصنوعی مرزی” حمایت می کنم، که جدیدترین سیستم های هوش مصنوعی هستند که پتانسیل اعمال شدن در بسیاری از وظایف مختلف را با تغییرات کوچک در الگوریتم هایشان دارند.

بسیاری از مدیران عامل و رهبران شرکت‌های بزرگ فناوری ترجیح می‌دهند در مورد تسلط هوش مصنوعی در جهان در آینده ترساننده باشند – اما من بیشتر نگران تأثیراتی هستم که در 5 سال آینده از طریق فناوری‌هایی مانند Frontier AI خواهد داشت. مسائل ایمنی مانند تعصب، تبعیض و عدم انطباق (در مواردی که رفتار سیستم‌های هوش مصنوعی با دیدگاه‌های جامعه ما همخوانی ندارد) فوری و مبرم هستند.

می‌خواهم ببینم که این اجلاس به استانداردهای ایمنی بین‌المللی و دستورالعمل‌هایی برای استفاده از هوش مصنوعی منجر می‌شود، که سپس می‌تواند در کشورهایی مانند نیوزلند برای تنظیم مقررات هوش مصنوعی خودمان استفاده شود.

«نیوزیلند در مقررات هوش مصنوعی ما سرگردان است. سیاستگذاران ما باید این اجلاس را از نزدیک تماشا کنند تا تفکرات خود را هدایت کنند – در عین حال مسائل خاص Aotearoa مانند حاکمیت داده های مائوری و تمایل به بهینه سازی سیستم های هوش مصنوعی تجاری برای جمعیت قفقازی را نیز در نظر بگیرند.

تضاد منافع وجود ندارد.

دکتر Karaitiana Taiuru، Taiuru & Associates Ltd، اظهار داشت:

همه ما در تقاطع تکاملی هستیم که اگر صدای ما اکنون شنیده می شد، می توانست نابرابری با مائوری و دیگران را برطرف کند.

“از دیدگاه مائوری در نیوزیلند، من مایلم به حقوق مردم بومی که مدت ها نادیده گرفته شده اند، به ویژه مائوری ها با حقوق مالکیت معنوی، سوگیری داده ها و سیستم های مبتنی بر داده ها، روایت های نادرست و نژادپرستانه به عنوان حقیقت، توجه داشته باشم. که هوش مصنوعی اکنون از آن به عنوان واقعیت استفاده می کند و اینکه چگونه سیستم های تنظیم کننده می توانند از مائوری و کل نیوزیلند محافظت و بهبود بخشند.

یکی از راه‌هایی که می‌توان این کار را انجام داد، به رسمیت شناختن و اجرای حقوق Te Tiriti در تمام هوش مصنوعی در نیوزیلند و همکاری با شرکت‌های فناوری که در نیوزلند تأسیس شده‌اند برای شناسایی و اجرای آن‌ها با همکاری بخش اجتماعی و فناوری مائوری است. ما به عنوان کشور کوچک و توسعه یافته ای می توانیم در این زمینه رهبران جهانی باشیم.

علاوه بر این، این نشست فرصتی ایده‌آل برای دولت جدید ما است تا مقررات اخلاقی و حاکمیت نیوزیلند را در نظر بگیرد که می‌تواند منافع اقتصادی و اجتماعی را به همراه داشته باشد.» فرصتی برای آماده سازی کشورمان برای موج جدیدی از اشتغال و فرصت های سرمایه گذاری. سرمایه گذاری در آموزش، نحوه مدیریت اسناد کشورهای خود در حال حاضر، نحوه عملکرد دولت ها، و نحوه برخورد با مشکلات شرورانه ای مانند تأثیر اقتصادی و مالی استعمار سیستماتیک و نابرابری.

هوش مصنوعی این پتانسیل را دارد که زمین بازی را یکسان کند.

بیانیه تضاد منافع: مدیر Taiuru & Associates Ltd. Tangata Whenua نماینده انجمن تحقیقات هوش مصنوعی Aotearoa. کاهوی مائوری عضو انجمن هوش مصنوعی.

پروفسور آلبرت بافت، مدیر Te Ipu o te Mahara – موسسه هوش مصنوعی، دانشگاه وایکاتو، اظهار داشت:

«در دنیای تحقیقات هوش مصنوعی، مردم عمدتاً دارای دو ذهن هستند.

یک گروه، از جمله کارشناسانی مانند جاشوا بنجیو و جفری هینتون، نگران خطرات هوش مصنوعی هستند. آنها معتقدند هوش مصنوعی می تواند خطرآفرین باشد و ما باید مراقب باشیم.

گروهی دیگر، از جمله Yann LeCun و Andrew Ng، بیشتر نگران قوانین بیش از حد برای هوش مصنوعی هستند. آنها معتقدند که قوانین بیش از حد می تواند کار و تحقیقات خوب هوش مصنوعی را متوقف کند.

“من فکر می کنم Yann LeCun (متا، فیس بوک) نکته خوبی دارد، Bengio و Hinton ممکن است به طور ناخواسته به کسانی کمک کنند که می خواهند تحقیق و توسعه هوش مصنوعی را مسدود کنند و با ممنوع کردن تحقیقات منبع باز، کدهای منبع باز و مدل های دسترسی باز از کسب و کار خود محافظت کنند.

ترس از هوش مصنوعی چیز جدیدی نیست، در واقع اولین هشدار در مورد هوش مصنوعی از نیوزلند در سال 1863 (!) بود. در نامه ای از ساموئل باتلر به سردبیر مطبوعات، مقاله کرایست چرچ.

اکنون، در اجلاس خطر هوش مصنوعی در انگلستان، باید در مورد این موارد صحبت کنیم. اما ما همچنین باید در مورد اینکه چگونه هوش مصنوعی می تواند به ما در حل خطرات وجودی مانند تغییرات آب و هوا، جنگ و فقر کمک کند، بحث کنیم. اگر به درستی از هوش مصنوعی استفاده کنیم، می تواند ابزاری برای بهتر کردن جهان باشد.

تضاد منافع وجود ندارد.

دکتر اندرو چن، محقق، کوی تو – مرکز آینده ای آگاه، دانشگاه اوکلند، اظهار داشت:

با توجه به اینکه دستور اجرایی رئیس جمهور ایالات متحده برای هوش مصنوعی ایمن، ایمن و قابل اعتماد در ذهن مردم تازه شده است، دیدن نتیجه اجلاس ایمنی هوش مصنوعی بریتانیا در این هفته جالب خواهد بود.

“در حالی که بحث های زیادی در مورد خطر وجودی که ممکن است هوش مصنوعی به همراه داشته باشد (یعنی خطر انقراض انسان) وجود داشته است، بسیاری از محافظت های نظارتی ماهیت کوتاه مدت و عملی تر دارند، مانند نیاز به آزمایش ایمنی سیستم های هوش مصنوعی. اعمال شفافیت و پاسخگویی یا واترمارک کردن نتایج هوش مصنوعی. در چندین حوزه قضایی، فشار نظارتی سنگین تنها بر بزرگ‌ترین بازیگران (مانند شرکت‌های فناوری بزرگ) وارد شده است، بر این اساس که سیستم‌های آنها گسترده‌ترین تأثیر را دارند، که می‌تواند پتانسیل ایجاد یک استارت‌آپ کوچک و بسیار پر تأثیر را ایجاد کند. ریسک قابل توجه

یکی از موضوعات مهم اجلاس ایمنی هوش مصنوعی غیرقابل پیش بینی بودن است – که «افزایش» قابلیت های هوش مصنوعی اغلب حتی توسط کسانی که فعالانه در این بخش ها کار می کنند غیرقابل پیش بینی است و همچنین می تواند از منابع غیرمنتظره باشد. در حالی که مقررات عملی برای سیستم‌های هوش مصنوعی مدرن مانند هوش مصنوعی مولد برای متن و تصاویر در حال حاضر به خوبی درک شده است (و باید در مورد آن توافق شود و سپس در رقابت علیه پیشرفت و استفاده مداوم از فناوری هوش مصنوعی، قانون‌گذاری شود)، یک جامعه جهانی از خود در برابر تهدیدات ناشناخته و نادیده محافظت می کند، که به عنوان یک نتیجه بالقوه اجلاس ایمنی هوش مصنوعی جالب خواهد بود.

تضاد منافع وجود ندارد.

دکتر پان ژنگ، مدرس ارشد، دانشکده بازرگانی UC، دانشگاه کانتربری، اظهار داشت:

پس از خواندن مقاله بحث «فرصت‌ها و خطرات هوش مصنوعی مرزی»، معتقدم دو جنبه متمایز از توسعه و ایمنی هوش مصنوعی وجود دارد. اول اینکه در زیرساخت هوش مصنوعی، دیگر هوش مصنوعی نیست، یعنی. کامپیوترها و الگوریتم ها، فی نفسه، و کامپیوتر و انسان، یعنی. هوش مصنوعی و هوش انسانی. روند، هوش جمعی (CI) است. مشارکت متخصصان انسانی مهمترین عامل در خطر زدایی و محافظت از استفاده از هوش مصنوعی است. MIT مرکز اطلاعات جمعی را در سال 2006 تأسیس کرد و پیشگام تحقیقات در این راستا بود.

جنبه دوم مربوط به داده های مورد استفاده در آموزش هوش مصنوعی است. آموزش الگوریتم های هوش مصنوعی مانند آموزش کودکان است. درک و استفاده صحیح از داده ها به ویژه مهم است. در بسیاری از موارد، مردم می توانند داده های حاوی حقایق و نظرات را بگویند. هوش مصنوعی به تنهایی نمی تواند داده ها را از واقعیت یا عقیده تشخیص دهد. برای اطمینان از قابلیت اطمینان هوش مصنوعی، محققان باید همیشه مدل‌های هوش مصنوعی را با داده‌های واقعی آموزش دهند. با این حال، گاهی اوقات دشواری تشخیص واقعیت از عقیده در داده ها می تواند حتی برای انسان ها نیز چالش برانگیز باشد.

به طور خلاصه، 1) متخصصان انسانی برای توسعه هوش مصنوعی کم خطر، در نتیجه هوش جمعی، مهم هستند، و 2) داده های مورد استفاده در آموزش باید حقایق را نشان دهند، نه نظرات، تا از یکپارچگی هوش مصنوعی، بی طرفانه و بی طرفانه اطمینان حاصل کنند. ”

تضاد منافع وجود ندارد.

Hema Sridhar، مشاور استراتژیک – آینده فناوری، کوی تو: مرکز یک آینده آگاه:

توجه: Hema Sridhar و Sir Peter Gluckman نویسندگان a مقاله بحث پیش از اجلاس ایمنی هوش مصنوعی

هیچ تعارض منافع اعلام شده ای وجود ندارد.



Source link

نوشته های مشابه

دکمه بازگشت به بالا