گوگل می خواهد به محققان پول بدهد. برخی دیگر نمی خواهند آن را بگیرند


وی گفت ، “او به این جایزه پیوست ،” به دلیل احساس من در آن زمان كه گوگل در حال ساخت یك تیم اطلاعاتی اخلاقی واقعاً قدرتمند و پیشرو در صنعت است.

اندکی بعد ، این احساس از بین رفت. در اوایل ماه دسامبر ، تیمیت گبرو ، رهبر تیم اطلاعات اخلاقی گوگل و یک زن سیاه پوست معروف در یک زمینه مرد سفید پوست ، به طور ناگهانی Google را ترک کرد. در روز چهارشنبه ، 2 دسامبر ، او توییت او به خاطر ایمیلی که به یک لیست پستی داخلی ارسال کرده بود “بلافاصله اخراج شد”. وی در ایمیل ، از عدم تنوع مداوم و ناامیدی شرکت نسبت به روند داخلی مربوط به بررسی یک مقاله تحقیقاتی منتشر نشده در مورد خطرات ساخت مدل های بزرگتر زبان AI – نوع پر سر و صدایی از هوش مصنوعی که اهمیت فزاینده ای دارد ، ابراز وحشت کرد تجارت جستجوی عظیم گوگل.

در آن زمان ، گبرو گفت که مدیریت هوش مصنوعی گوگل به او گفته است که سند را از یک کنفرانس بررسی کند یا نام خود را از آن حذف کند. گوگل گفت که استعفای گبرو را به دلیل لیستی از درخواست های الکترونیکی که وی برای ادامه کار در این شرکت مجبور به انجام آن بود ، پذیرفته است.

حذف Gebru یک بحران یک ماهه برای این شرکت ایجاد کرد ، از جمله اخراج کارمندان ، تغییر مدیریت و عذرخواهی از مدیر عامل Google برای اینکه چگونه شرایط مربوط به خروج Gebru باعث شد برخی از کارمندان جایگاه خود را در آنجا زیر سوال ببرند . گوگل یک تحقیق داخلی در این مورد انجام داد ، نتایج همان روز اعلام شد هنگامی که این شرکت رئیس تیم Gebru ، مارگارت میچل را برکنار کرد ، وی که پس از انتشار Gebru دائما از این شرکت در توییتر انتقاد می کرد. (گوگل به “تخلفات بی شماری” در کد رفتار خود استناد می کند.) در همین حال ، محققان خارج از گوگل ، به ویژه در زمینه هوش مصنوعی ، به طور روزافزونی نسبت به بورس تحصیلی با ارزش این شرکت بی اعتماد شده و از نگرش آن نسبت به گبرو و میچل عصبانی می شوند.

چهارشنبه ، 10 مارس ، هنگامی که گوگل تبریک نامه ای را به وی ارسال کرد که 60 هزار دلار برای پیشنهاد یک پروژه تحقیقاتی به وی پیشنهاد می دهد ، که به چگونگی معرفی هوش مصنوعی توسط شرکت ها برای شناسایی احساسات کمک می کند ، به شدت متوجه استارک بود. استارک گفت بلافاصله احساس كرد كه مجبور است جايزه را رد كند تا حمايت خود را از گبرو و ميچل و همچنين كساني كه هنوز در تيم اطلاعات اخلاقي گوگل هستند ، نشان دهد.

استارک به CNN Business گفت: “اولین فکر من این بود که” باید بگویم نه “.

لوک استارک جایزه 60 هزار دلاری تحقیقاتی گوگل را در حمایت از رهبران برکنار شده از گروه اخلاق هوش مصنوعی خود رد کرد.
استارک در میان تعداد فزاینده ای از افراد دانشگاهی است که به استدلال های گبرو و میچل در مورد تصمیمات اخیر در مورد برداشت بودجه یا فرصت های ارائه شده توسط این شرکت استناد می کنند. برخی از برگزارکنندگان کنفرانس هوش مصنوعی در حال بررسی احتمال حامی مالی گوگل هستند. و حداقل یکی از دانشگاهیان که در گذشته مورد توجه بسیاری از گوگل قرار گرفته است آن را اعلام کرده است به دنبال پشتیبانی مالی نخواهند بود تا اینکه تغییراتی در شرکت ایجاد شود.

ویجی چیدامبارام ، استادیار دانشگاه تگزاس در آستین که در زمینه سیستم های ذخیره سازی تحصیل می کند ، به CNN Business گفت: “با وجدان خوب ، دیگر نمی توانم بودجه شرکتی را قبول کنم که با کارمندانش اینگونه رفتار کند.” پیش از این ، چیدامبارام 30000 دلار از Google برای یک پروژه تحقیقاتی دریافت کرده بود.

پول سرمایه گذاری شده برای گوگل مهم نیست. اما تأثیرات فزاینده تنش های گوگل با تیم هوش مصنوعی اخلاقی اکنون خطری را برای این شرکت ایجاد می کند شهرت و رشد در جامعه AI. این بسیار مهم است زیرا گوگل برای استعداد مبارزه می کند – هم به عنوان کارمندان شرکت و هم اسامی مرتبط با آن در دانشگاه.

استارک گفت: “من فکر می کنم این وسعت بیش از آن است که حتی شرکت متوجه آن شود.”

کاهش همبستگی

استارک علی رغم تمایل اولیه خود بلافاصله جایزه گوگل را رد نکرد. وی با همکارانش در مورد آنچه قصد داشت انجام دهد صحبت کرد – وی قبل از ارسال پاسخ خود به گوگل جمعه آینده گفت: “مردم از هر تصمیمی من حمایت کردند.” وی از این شرکت برای “رای اعتماد” در تحقیقات خود تشکر کرد ، اما نوشت که “بر اساس نامه های الکترونیکی” به دلیل همبستگی با دکتر گبرو و میچل ، هم تیمی های آنها و هر کسی که در شرایط مشابه بوده است ، این جایزه را رد می کند. بررسی شده توسط CNN Business.

TikTok این زنان بزرگ را مجاز و سپس برخی از پست های آنها را حذف کرد.  آنها هنوز نمی دانند چرا

“من مشتاقانه منتظر همکاری مجدد با Google Research هستم زیرا سازمان و رهبران آن تصمیم خود را در این مورد منعکس می کنند ، خساراتی را که ایجاد کرده اند بررسی می کنند و خود را متعهد به گفتار و کردارهایی برای ارتقا critical تحقیقات مهم می کنند. و محصولاتی که از عدالت و انصاف حمایت می کنند ، “استارک نوشت.

او توییت در مورد تصمیم خود برای رد جایزه ، علنی کردن آن ، با اشاره به اینکه بسیاری از مردم توانایی رد چنین بودجه ای از Google یا سایر شرکت ها را ندارند. استارک قادر به پس دادن پول است زیرا بخش وی در دانشگاه وسترن بودجه خوبی دارد. وی گفت که جایزه Google هزینه اضافی برای تحقیق فراهم می کند.
استارک گفت: “همه آنچه كه ما می توانیم انجام دهیم انجام كاری است كه به طور منطقی می توانیم انجام دهیم – و این كاری بود كه احساس كردم می توانم انجام دهم.” توییت.

گبرو گفت که از اقدامات استارک قدردانی می کند.

وی به سی ان ان بیزینس گفت: “این که کسی حمایت مالی از گوگل را رد کند یک معامله بسیار بزرگ است.” “به خصوص کسی که در اوایل کار خود است.”

سخنگوی گوگل گفت این شرکت در 15 سال گذشته بیش از 6500 بورس تحصیلی و پژوهشی به افراد خارج از Google ارائه داده است. به گفته سخنگو ، استارک اولین شخصی بود كه از یك نفر خودداری كرد.

“معالجه واقعی آنها کاملاً نامشخص بود.”

با این حال تصمیم استارک تنها آخرین نمایش همبستگی با گبرو و میچل است.

اولین نشانه آشکار عصبانیت درست پس از خروج گبرو از گوگل رخ داد. پست میانه ای محکوم کردن عزیمت وی ​​و خواستار شفافیت در مورد تصمیم Google در مورد مقاله تحقیقاتی به سرعت از کارمندان و حامیان Google در زمینه های علمی و هوش مصنوعی امضا گرفت در پایان ماه مارس ، تعداد طرفداران تقریباً 2700 کارمند Google و بیش از 4300 نفر دیگر افزایش یافته بود.
گوگل می داند که اخیراً اعتبار آن در زمینه تحقیقات هوش مصنوعی آسیب دیده و گفته است که قصد دارد آن را ترمیم کند.
در اوایل ماه مارس ، کنفرانسی که Gebru و همكارانش سند را ارسال كرده بودند ، كنفرانس ACM در مورد انصاف ، پاسخگویی و شفافیت یا FAccT ، قرارداد حمایت مالی خود را با Google خاتمه داد. گبرو یکی از بنیانگذاران کنفرانس است و به عنوان عضو اولین کمیته اجرایی FAccT فعالیت می کند. گوگل هر ساله از زمان شروع کنفرانس سالانه در سال 2018 اسپانسر شده است. مایکل اکستراند ، رئیس مشترک ACM FAccT شبکه ، به CNN Business تأیید کرد که حمایت مالی متوقف شده است ، و گفت این تصمیم “به نفع خود است” جامعه “” و اینکه این گروه در سیاست حمایت مالی خود برای سال 2022 “تجدیدنظر خواهد کرد”. اکستراند گفت که گبرو در این تصمیم شرکت نکرده است.
همچنین در ماه مارس ، دو دانشمند به اقدامات گوگل اعتراض کردند توییت کردن که آنها تصمیم گرفتند که فقط با دعوت نامه هایی که به صورت آنلاین برگزار می شود ، در دعوت به رباتیک شرکت نکنند. Hadas Kress-Gazit ، استاد رباتیک در کرنل ، یکی از آنها بود. او گفت که در ژانویه دعوت شد ، اما با نزدیک شدن به این رویداد خویشتن داری کرد.

“این کاملاً نامشخص بود [Gebru and Mitchell] درمان شده اند وی در مصاحبه اخیر خود با CNN Business گفت: “هنوز هیچ کس از آنها عذرخواهی نکرده است.” من نمی خواهم با شركتهایی كه چنین رفتاری نسبت به محققان برتر دارند ، ارتباط برقرار كنم. ”

تلاش های گوگل برای گسترش مرزهای هوش مصنوعی

گوگل آگاه است که اعتبار آن به عنوان یک موسسه تحقیقاتی در ماه های اخیر آسیب دیده است و این شرکت گفته است که قصد دارد آن را تعمیر کند. در طی جلسه اخیر گوگل سیتی هال ، که رویترز برای اولین بار گزارش کرد و CNN Business نیز صدا دریافت کرد ، این شرکت تغییراتی را که در تحقیقات داخلی و شیوه های انتشار آن ایجاد می کرد ، بیان کرد.

“من فکر می کنم راه جلب اعتماد ادامه دادن کارهای پیشرفته در بسیاری از زمینه ها ، از جمله گسترش مرزها در موضوعات مربوط به هوش مصنوعی مسئول ، انتشار مواردی است که عمیقا برای جامعه تحقیق جالب است ، از بهترین راه ها فکر می کنم جف دین ، ​​رئیس هوش مصنوعی گوگل ، گفت: “برای ادامه دادن به یک رهبر در تحقیقات ،” او به س answeredال یکی از کارمندان در مورد محققان خارج پاسخ داد و گفت مقالات Google را “اکنون با شک بیشتری” می خواند.

گوگل در تلاش است تا بحث بر سر تیم هوش مصنوعی اخلاقی خود را پایان دهد.  خوب پیش نمی رود

Gebru امیدوار است که مانند FAccT ، کنفرانس های بیشتری پیوند خود را با آزمایشگاه های تحقیقاتی شرکت های فناوری ارزیابی مجدد کنند. از نظر تاریخی ، بیشتر کارها در زمینه توسعه و مطالعه هوش مصنوعی در یک محیط دانشگاهی انجام شده است. اما وقتی شرکت ها کاربردهای تجاری بیشتر و بیشتری از این فناوری می یابند ، مرزهای بین دانشگاه و دنیای شرکت ها محو می شود. گوگل فقط یکی از بسیاری از شرکت های فناوری است که تأثیر عمده ای در کنفرانس های دانشگاهی داشته است ، بسیاری از گزارش های محققان خود را منتشر می کنند. کارمندان آن در هیئت های کنفرانس می نشینند و هر ساله کنفرانس های مختلفی را پشت سر می گذارد ، گاهی اوقات ده ها هزار دلار.

به عنوان مثال ، گوگل و برخی شرکت های تابعه از شرکت مادر ، Alphabet ، به عنوان حامیان 20،000 دلار “پلاتین” و 10،000 دلار “طلا” در کنفرانس بین المللی یادگیری ماشین یا ICML و کنفرانس سیستم های عصبی عصبی یا NeurIPS ، در 2020 – هر دو کنفرانس کلیدی هوش مصنوعی. و برخی از کارمندان شرکت در کمیته های تشکیل دهنده خود می نشینند.

جان لانگفورد ، رئیس ICML گفت که این کنفرانس “در حال حاضر برای حمایت مالی” توسط Google برای کنفرانس 2021 خود ، که قرار است در ماه ژوئیه برگزار شود ، باز است.

وی افزود: “در مورد اینکه چگونه ICML به عنوان یک کنفرانس باید فرهنگ خوب و شیوه های یادگیری ماشین با سیاست های حمایت مالی آینده را به عنوان بخشی از این بحث گسترش دهد ، بحث های زیادی وجود دارد.”

مدیر عامل NeurIPS مری الن پری گفت که کنفرانس هنوز فراخوان سالانه خود را برای حمایت مالی صادر نکرده است ، اما برنامه ها “براساس مجموعه ای از دستورالعمل های انتخاب شده توسط صندلی های حمایت مالی امسال ارزیابی می شوند”. NeurIPS برای دسامبر برنامه ریزی شده است.

با این حال ، برای استارک و دیگران در جامعه تحقیقات دانشگاهی ، معیارهای آنها برای پذیرش بودجه از Google قبلاً تغییر کرده است.

استارک گفت: “پول اضافی برای تحقیق بسیار خوب خواهد بود.” “اما این چیزی بود که احساس کردم فقط نمی توانم بپذیرم.”




منبع: pezeshk-khabar.ir

Leave a reply

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>