کاخ سفید می‌گوید شرکت‌های پیشرو هوش مصنوعی توافق کرده‌اند که در زمینه شفافیت و ایمنی با یکدیگر همکاری کنند



کاخ سفید روز پنجشنبه اعلام کرد، هفت شرکت پیشرو هوش مصنوعی با تعدادی از بهترین شیوه‌های صنعت موافقت کرده‌اند که اولین گام به سوی مقررات معنادارتر است.

آمازون، آنتروپیک، گوگل، Inflection، Meta، مایکروسافت و OpenAI با اصولی که شامل امنیت، شفافیت با مردم و آزمایش داخلی محصولاتشان قبل از عمومی کردن آنها می‌شود، موافقت کرده‌اند.

چهارشنبه شب در گفتگو با خبرنگاران برای پیش نمایش این اعلامیه، یکی از مقامات کاخ سفید که به شرط ناشناس ماندن به عنوان بخشی از شرایط تماس صحبت کرد، گفت که جو بایدن، رئیس جمهور جو بایدن در نهایت فرمان اجرایی را امضا خواهد کرد که مقررات دقیق تری بر هوش مصنوعی دارد، اگرچه مقامات هنوز در حال بررسی جزئیات بودند.

این مقام گفت، کاخ سفید به طور فعال در حال توسعه اقدامات اجرایی برای مدیریت استفاده از هوش مصنوعی برای بررسی ریاست جمهوری است. این یک اولویت برای رئیس جمهور است.

مدیران ارشد شرکت‌های شرکت‌کننده نیز روز جمعه با کاخ سفید دیدار خواهند کرد، از جمله، رئیس مایکروسافت، برد اسمیت، رئیس گوگل و آلفابت، کنت واکر، مدیر اجرایی خدمات وب آمازون، آدام سلیپسکی، مدیر عامل خدمات وب آمازون، نیک کلگ، رئیس امور جهانی متا، گرگ براکمن رئیس OpenAI، داریو مصطفی آمودی، مدیر عامل آنتروپیک، داریو مصطفی سولیمن و Inflection Suleiman AICEO.

این مقام گفت که هر یک از این هفت شرکت با استخدام کارشناسان مستقل برای بررسی آسیب‌پذیری‌ها و به اشتراک گذاشتن اطلاعاتی که پیدا می‌کنند با یکدیگر، دولت‌ها و محققان موافقت کرده‌اند. آنها همچنین موافقت کردند که مکانیسم‌های به اصطلاح واترمارکینگ را توسعه دهند تا به کاربران کمک کند تشخیص دهند محتوایی که می‌بینند یا می‌شنوند چه زمانی تولید شده است.

تعهدات داوطلبانه و غیر الزام آور هستند.

گری مارکوس، یکی از منتقدان برجسته هوش مصنوعی، گفت که این تعهدات مهم هستند، اما خاطرنشان کرد که آنها شرکت‌های هوش مصنوعی را مجبور نکردند بگویند از چه داده‌هایی برای آموزش مدل‌های خود استفاده می‌کنند.

مارکوس گفت، فکر می کنم این اولین قدم عالی است و به اندازه کافی دور نمی رود. اولاً چون داوطلبانه است. دوم، یکی از مهمترین چیزهایی که در اینجا به آن نیاز داریم این است که از چه داده هایی برای آموزش مدل ها استفاده می شود، و این بخشی از آن نیست.

تیم قرمز فوق العاده است. به اشتراک گذاری اطلاعات شرکت ها عالی است. توافق در مورد واترمارک عالی است. اینها همه مراحل خوبی است. اما تا زمانی که ما شفافیت واقعی در مورد داده ها نداشته باشیم، این کار انجام نمی شود.

سیستم‌های هوش مصنوعی مولد مانند OpenAIs ChatGPT در اواخر سال گذشته بسیار هیجان‌انگیز شدند، و جرقه انبوهی از کاربران جدید را برانگیخت و دولت ایالات متحده را به تکاپو انداخت تا نقشی مناسب پیدا کند. در ماه می، سام آلتمن، مدیر عامل OpenAI از اعضای کنگره خواستار تنظیم این صنعت شد. در ماه ژوئن، بایدن به سانفرانسیسکو رفت تا با رهبران برخی از شرکت‌های دره سیلیکون که رهبری هوش مصنوعی آمریکا را بر عهده داشتند، ملاقات کند.

این مقام کاخ سفید گفت که تمرکز این توافق بر ایجاد شفافیت است که به کارشناسان امکان می دهد سیستم های هوش مصنوعی را بهتر بررسی کنند.

این مقام گفت، آنچه شرکت ها به آن متعهد هستند، تجزیه و تحلیل مستقل توسط متخصصان در این زمینه و ایجاد یک رژیم گسترده تر و چندجانبه است تا اطمینان حاصل شود که آن تحلیل قابل اعتماد و قابل اعتماد است. و آنها همچنین متعهد هستند، به طور کلی، با دانشگاه ها و جامعه مدنی و ایالات متحده و سایر دولت ها درگیر شوند تا بهترین شیوه ها را برای محافظت از آن سیستم ها ایجاد کنند و سپس به آن شیوه ها پایبند باشند.