وبلاگ

در حالی که بن بست وحشیانه بین سه نفر از چهار عضو هیئت مدیره OpenAI و 95 درصد کل نیروی کار شرکت ادامه دارد، اتهامات مبهم در هر دو جهت شروع می شود. پس این کارگردانان چه کسانی هستند و چرا این کار را کردند سام آلتمن مدیر عامل آتش نشانی?

با توجه به اینکه شرکت پیشرو در جهان در زمینه هوش مصنوعی و مدل فوق‌العاده زبان GPT آن هنوز در آشفتگی است، اطلاعات جدیدی در مورد آنچه پشت درهای بسته در OpenAI می‌گذرد در حال ظهور است. بخش اعظم این گمانه زنی باقی می ماند، زیرا هیئت مدیره هنوز اقدامات بمباران خود را به طور کامل توضیح نداده است – چه برای عموم یا برای بیش از 95 درصد از کارکنان OpenAI که تهدید کرده اند در صورت عدم جذب تیم مدیریت قدیمی خود برعکس، کار را ترک خواهند کرد.

در واقع با توجه به بلومبرگ، مدیر عامل موقت جدید، امت شیر، خود درباره دلیل اخراج آلتمن در تاریکی است و به مردم می‌گوید که اگر به زودی توضیحی در این مورد وجود نداشته باشد، او نیز این کار را ترک خواهد کرد.

به نظر می رسد هنوز ممکن است هیئت مدیره موجود کناره گیری کند و امکان بازگشت آلتمن و رئیس و رئیس سابق هیئت مدیره، گرگ براکمن را فراهم کند، اما در حال حاضر هر دو با پیوستن به مایکروسافت موافقت کرده اند و پروژه را برای دستیابی به AGI تحت یک مدل تجاری بسیار متفاوت از آن دنبال می کنند. که از OpenAI.

پسندیدن دیروز بحث کردیمشرکت به این ترتیب راه اندازی شده است تا بتواند از قدرت سرمایه گذاری استفاده کند، اما همچنان سعی می کند به ماموریت کلی خود که تضمین می کند وفادار بماند. یک هوش مصنوعی پیشرفته بالقوه بسیار خطرناک به گونه ای توسعه یافته است که به احتمال زیاد به نفع بشر است. این ساختار به گونه ای طراحی شده است که اطمینان حاصل شود که منافع بشریت بر هر انگیزه انتفاعی اولویت دارد. هیئت مدیره به معنای واقعی کلمه قدرتی را دارد که در روز جمعه داشت، بنابراین اگر لازم باشد می تواند جهان را نجات دهد.

سام آلتمن

اعضای هیئت مدیره چه کسانی هستند و انگیزه آنها چه می تواند باشد؟

تنها چهار عضو هیئت مدیره این شرکت غیرانتفاعی باقی مانده است که کنترل نهایی را بر بخش انتفاعی OpenAI اعمال می کند. در ابتدای سال، 9 نفر بودنداز جمله آلتمن و براکمن. استعفای ویل هرد، نماینده جمهوریخواه مجلس نمایندگان، سیوبهان زیلیس، مدیر عامل Neuralink و رید هافمن، بنیانگذار لینکدین در اوایل سال جاری، جای خالی خود را بر جای گذاشت و هیئت مدیره نتوانست در مورد نحوه پر کردن آنها به توافق برسد.

یکی از چهار نفر باقی مانده، دانشمند اصلی ایلیا سوتزکور است که اکنون به تیم آلتمن پیوسته است. گفتن او عمیقاً پشیمان است[s his] مشارکت در اقدام هیئت مدیره، بنابراین ما بر روی دیگران تمرکز خواهیم کرد.

بسیاری از گمانه زنی های اولیه متوجه آدام دی آنجلو بود که به نظر می رسد در شغل اصلی خود به عنوان مدیر عامل سایت پرسش و پاسخ Quora، تضاد منافع احتمالی داشته باشد. در 26 اکتبر، D’Angelo ارتقای سیستم Quora’s Poe را اعلام کرد که به سازندگان اجازه می‌دهد ربات‌های مبتنی بر هوش مصنوعی ایجاد شده در سایت را بسازند و سپس کسب درآمد کنند. تنها چند هفته بعد، آلتمن «GPTs» را معرفی کرد – در واقع محصولی که به نظر می‌رسد مستقیماً با پیشنهاد Quora رقابت می‌کند.

اما اکنون گزارش ها حول محور هلن تونر 30 ساله استرالیایی، مدیر استراتژی مرکز امنیت و فناوری های نوظهور دانشگاه جورج تاون و پیوندهای او با جنبش مؤثر نوع دوستی است.

مطابق با نیویورک تایمزتونر و آلتمن در اکتبر با هم درگیر شدند، زمانی که آلتمن تونر را به دلیل انتقاد از رویکرد OpenAI به سیگنال‌دهی ایمنی هوش مصنوعی در طول راه‌اندازی GPT4 در مقاله تحقیقاتی او در جورج تاون به نگارش درآمد – در حالی که به نظر می رسد رویکرد رقیب کلیدی Anthropic را ستایش می کند. اوضاع به قدری داغ شد که بنا به گزارش ها، بحث هایی در مورد اینکه آیا تونر باید از هیئت مدیره به خاطر این حادثه حذف شود یا خیر، انجام شد.

با توجه به تونر بود بار، که به مقامات گفته بود که از بین بردن OpenAI با ماموریت هیئت مدیره مطابقت دارد. و با توجه به اطلاعاتهیئت مدیره OpenAI تا آنجا پیش رفت که به آنتروپیک نزدیک شد و پس از اخراج آلتمن، ادغام احتمالی را پیشنهاد داد.

Anthropic در سال 2021 توسط گروهی از اعضای ارشد سابق تیم OpenAI که با تصمیم OpenAI برای مشارکت با مایکروسافت مخالف بودند، تأسیس شد. آنتروپیک که اکنون با آمازون همکاری می کند، مدت هاست که با جنبش مؤثر نوع دوستی همراه بوده و توسط آن توصیف شده است بار کوین روس ستون نویس به عنوان “کانون AI Doomerism” در ماه جولای.

نوع دوستی موثر

نوع دوستی مؤثر نوعی حرکت فلسفی است که مبتنی بر ایده “استفاده از شواهد و دلیل برای درک چگونگی بهره مندی از دیگران تا حد امکان و عمل بر اساس آن” است. مرکز نوع دوستی موثر. این گروه، از طریق یک سازمان سرمایه گذاری به نام بشردوستی باز، دارای یک گروه کاملاً متمرکز است در مورد “خطر فاجعه بار جهانی” هوش مصنوعی پیشرفته. این سقوط کرده است کنترل شدید در ماه های اخیر از زمانی که یکی از سرمایه گذاران اصلی آن، بنیانگذار FTX، سام بنکمن-فرید، محاکمه شد.

تونر سه سال در Open Philanthropy به عنوان یک تحلیلگر تحقیقاتی کار کرد و این سازمان همچنین به گروه جورج تاون او کمک هزینه تحقیقاتی می دهد.

این حرکت همچنین به عضو هیئت مدیره تاشا مک کاولی، دانشمند ارشد مدیریت در شرکت RAND، یکی از بنیانگذاران Fellow Robots و Geosim Systems و همسر بازیگر جوزف گوردون-لویت مرتبط است. مک کاولی عضو هیئت مدیره بنیاد سرمایه گذاری مؤثر، سازمان مادر مرکز نوع دوستی مؤثر در بریتانیا است.

بنابراین برخی اخراج آلتمن از هیئت مدیره را به عنوان یک تصاحب با محوریت ایمنی از نوع دوستی مؤثر می دانند و این سوال را مطرح می کنند که آیا با توجه به پیوندهای این گروه با آنتروپیک، تضاد منافع وجود دارد یا خیر.

اتهامات ناشناس علیه آلتمن و براکمن

در طرف دیگر دفتر کل که نشان می‌دهد آلتمن به دلایل خوبی از کار اخراج شده است، نامه‌ای می‌آید که ظاهراً توسط کارمندان ناشناس سابق OpenAI نوشته شده است که آلتمن و براکمن را به رفتارهای کلاه‌برانگیز و دستکاری متهم می‌کند و ادعا می‌کند که تلاش آلتمن برای تجاری‌سازی فناوری هوش مصنوعی شرکت باعث حدود نیمی از کارکنان شرکت طی چند سال گذشته ترک یا اخراج شوند.

این نامه که توسط ایلان ماسک توییت شد اما بعداً حذف شد، از سایر اعضای هیئت مدیره OpenAI خواسته شد تا رفتار اخیر آلتمن را به طور کامل بررسی کنند.

در حالی که ایالات متحده برای تعطیلات آخر هفته شکرگزاری آماده می شود، امیدواری وجود دارد، اما شاید نه امید زیادی، که وضعیت قبل از تعطیلات حل شود. سرویس ChatGPT این شرکت هنوز فعال است، اما با توجه به اینکه بیش از 95 درصد از نیروی کار OpenAI اعلام کرده‌اند که آماده ترک کار هستند، باید دید که تا چه زمانی این وضعیت ادامه خواهد داشت.