در نیویورک، شرکت‌ها باید ثابت کنند نرم‌افزار استخدام هوش مصنوعی آن‌ها جنسیتی یا نژادپرستانه نیست

کسب‌وکارهای نیویورکی که از هوش مصنوعی برای کمک به یافتن کارمندان استفاده می‌کنند، اکنون باید نشان دهند که این فرآیند عاری از تبعیض جنسی و نژادپرستی است.

اعتقاد بر این است که قانون جدیدی که از روز چهارشنبه اجرایی می شود، اولین قانون از این نوع در جهان است. بر اساس قانون جدید نیویورک، استخدام نرم افزاری که به یادگیری ماشین یا هوش مصنوعی برای کمک به کارفرمایان برای انتخاب نامزدهای ترجیحی یا حذف نامزدهای بد، که ابزار تصمیم گیری خودکار استخدام یا AEDT نامیده می شود، متکی است، باید از یک شرکت ثالث ممیزی شود تا نشان دهد عاری از تعصب نژادپرستانه یا جنسی

شرکت هایی که از نرم افزار استخدام هوش مصنوعی استفاده می کنند نیز باید این نتایج را منتشر کنند. شرکت‌هایی که از نرم‌افزار AEDT شخص ثالث استفاده می‌کنند، دیگر نمی‌توانند از نظر قانونی از چنین برنامه‌هایی استفاده کنند، اگر ممیزی نشده باشند.

شرکت ها به طور فزاینده ای از ابزارهای خودکار در فرآیندهای استخدام خود استفاده می کنند. کتی اونیل، مدیرعامل Orcaa، یک شرکت مشاوره که ممیزی ابزار استخدام را برای شرکت‌هایی که می‌خواهند با قانون جدید نیویورک در وضعیت خوبی قرار گیرند، انجام می‌دهد، گفت که ظهور ابزارهایی که به طور خودکار متقاضیان کار را ارزیابی می‌کنند، ضروری شده است زیرا جویندگان کار نیز از آنها استفاده می‌کنند. ابزارهایی که تعداد زیادی برنامه را ارسال می کنند.

در عصر اینترنت، درخواست برای کار بسیار ساده تر است. و ابزارهایی برای متقاضیان برای ساده کردن این فرآیند وجود دارد. ONEil گفت رزومه خود را به ما بدهید و ما برای 400 شغل درخواست می دهیم. آنها برنامه های زیادی دریافت می کنند. آنها باید لیست را به نحوی استخراج کنند، بنابراین این الگوریتم ها این کار را برای آنها انجام می دهند.

برنامه‌های استخدامی الهام‌گرفته از هوش مصنوعی تحت بررسی هستند، به‌ویژه اینکه آیا این برنامه‌ها بر اساس داده‌هایی که آموزش دیده‌اند، سوگیری نشان می‌دهند یا خیر. مطالعات مدت‌هاست نشان داده‌اند که برنامه‌هایی که از یادگیری ماشینی یا هوش مصنوعی استفاده می‌کنند، اغلب نژادپرستی، جنسیت‌گرایی و سایر سوگیری‌ها را نشان می‌دهند.

از آنجایی که برنامه‌های هوش مصنوعی مولد درخشان مانند ChatGPT و Midjourney مورد توجه قرار گرفته‌اند، قانون‌گذاران فدرال و حتی بسیاری از مدیران فناوری بارها خواستار تنظیم مقررات شده‌اند. اما در حال حاضر، کنگره نمی‌داند که چه شکلی می‌تواند باشد.

کارشناسان می گویند که اگرچه قانون نیویورک برای کارگران مهم است، اما هنوز بسیار محدود است.

جولیا استوجانوویچ، استاد علوم کامپیوتر در دانشگاه نیویورک و یکی از اعضای موسس گروه ویژه شهر در سیستم‌های تصمیم‌گیری خودکار، گفت که این یک شروع مهم است، اما هنوز بسیار محدود است.

استویانوویچ گفت اولاً، من واقعاً خوشحالم که قانون وجود دارد، از قبل قوانینی وجود دارد و من اجرای آنها را شروع خواهم کرد.

اما شکاف های زیادی نیز وجود دارد. به عنوان مثال، حسابرسی سوگیری از نظر دسته بندی بسیار محدود است. او افزود که ما به تبعیض بر اساس سن، برای مثال، که در استخدام یک معامله بزرگ است، یا معلولیت نگاه نمی کنیم.

همچنین مشخص نیست که این قانون چگونه و تا چه حد اجرا خواهد شد.

سخنگوی آژانس گفت که وزارت حمایت از مصرف کننده و کار نیویورک که مسئول اجرای قانون است، شکایات شرکت هایی را که متهم به نقض آن هستند جمع آوری و بررسی خواهد کرد.

جیک متکالف، محقق متخصص در هوش مصنوعی برای داده ها و جامعه، یک گروه غیرانتفاعی که تأثیرات فناوری بر جامعه را مطالعه می کند، گفت که عبارت قانون که AEDT را به عنوان فناوری تعریف می کند که به طور قابل توجهی به تصمیم گیری اختیاری کمک می کند یا جایگزین می کند، وکلا را به این سمت سوق داده است. به شرکت های بزرگ توصیه کنید آن را جدی نگیرند.

متکالف گفت که تعداد کمی از شرکت های حقوقی کار در نیویورک وجود دارند که به مشتریان خود توصیه می کنند که مجبور نباشند طبق قانون عمل کنند، حتی اگر به نظر می رسد روح قانون در مورد آنها صدق می کند.

او گفت که درک این که اساساً به چه معناست بسیار دشوار است.

حتی اگر ممیزی ها به کاهش تعصبات متقاضیان شغل کمک کند، هنوز مشخص نیست که آیا غربالگری شغلی هوش مصنوعی به ویژه در هدفی که انجام می دهد خوب است یا خیر.

ONEil از Orcaa گفت که فکر نمی کنم آنها سیستم کلی را برای افرادی که در سیستم هستند، چه برای نامزدها و چه برای استخدام مدیران، بهبود بخشند. این فقط اضافه بار اطلاعات است و دلیل زیادی برای اعتماد به این ابزارها برای بهبود اوضاع وجود ندارد.

استویانوویچ فراتر رفت و گفت که برخی از ابزارهای استخدام خودکار که او مطالعه کرده به سادگی کار نمی کنند.

یکی از چیزهایی که این قانون از ما در برابر آن محافظت نمی کند همین روش های غربالگری بیهوده و بیهوده است. من می توانم در مورد برخی از مواردی که با تیمی از همکاران ممیزی کرده ام به شما بگویم که کاملاً بی معنی است. بنابراین مغرضانه نخواهد بود زیرا تا آنجا که من می توانم بگویم تصادفی است. استویانوویچ گفت، بنابراین برای مردان و زنان و برای سیاه پوستان و سفیدپوستان بی معنی خواهد بود.