طبق گزارشی از تک کرانچ، به نظر میرسد گوگل در حال آموزش هوش مصنوعی جمنای خود به روشی است که ممکن است تعجب آور باشد. در بخشی از فرآیند توسعه جمنای، گوگل از پیمانکارانی استفاده میکند که وظیفه اصلی آنها ارزیابی پاسخهای هوش مصنوعی بر اساس ویژگیهایی مانند دقت، وضوح و ایمنی است. جایی که داستان جالب میشود این است که تک کرانچ گزارش میدهد این پیمانکاران، پاسخهای جمنای را با پاسخهای مدل زبانی بزرگ (LLM) کلاد از آنتروپیک برای همان درخواستها مقایسه میکنند.
اخیراً برخی از این پیمانکاران متوجه چیزی عجیب شدند. در پلتفرم داخلی گوگل که برای این مقایسهها استفاده میشود، یکی از پاسخها که به پیمانکاران جمنای ارائه شده بود، به وضوح ادعا میکرد که از طرف کلاد است. و این موضوع فقط به اینجا ختم نشد. سایر خروجیها تمایلات مشابه با کلاد را نشان میدادند و تأکید بیشتری روی ایمنی داشتند. برای مثال، در یکی از موارد، کلاد از انجام نقش یک دستیار هوش مصنوعی دیگر خودداری کرده بود.
حالا نکته اینجاست که شرایط استفاده از خدمات آنتروپیک بطور صریح بیان میکند که ربات چت آن نمیتواند برای ساخت یک محصول رقیب استفاده شود:
محدودیتهای استفاده. مشتری نباید و نمیتواند تلاش کند (الف) برای ساخت یک محصول یا خدمت رقیب به خدمات دسترسی پیدا کند، از جمله برای آموزش مدلهای هوش مصنوعی رقیب مگر اینکه بطور صریح توسط آنتروپیک تأیید شده باشد؛ (ب) مهندسی معکوس یا کپی برداری از خدمات؛ یا (ج) از هرگونه تلاش شخص ثالث برای انجام هر یک از رفتارهای محدود شده در این جمله پشتیبانی کند. مشتری و کاربران آن تنها میتوانند خدمات را در کشورها و مناطقی که آنتروپیک بطور فعلی پشتیبانی میکند، استفاده کنند.
وقتی تک کرانچ از گوگل پرسید که آیا اجازه آنتروپیک برای استفاده از خروجیهای کلاد به این شیوه را دارند، گوگل پاسخ واضحی نداد. شیرا مک نامارا، سخنگوی دیپ مایند، به تک کرانچ گفت:
البته، مطابق با رویههای استاندارد صنعت، در برخی موارد ما خروجیهای مدلها را به عنوان بخشی از فرآیند ارزیابی خود مقایسه میکنیم.
مقایسههای بین مدلها در توسعه هوش مصنوعی چندان نادر نیستند. شرکتها بطور معمول مدلهای خود را با رقبای خود مقایسه میکنند تا عملکرد آنها را بسنجند و زمینههای بهبود را شناسایی کنند. اما استفاده مستقیم از خروجیها یا تقلید از آنها بدون اجازه وارد حیطهای مبهم میشود.
تمام این مسائل در بحبوحه رقابت روزافزون در فضای هوش مصنوعی رخ میدهد. گوگل اخیراً یک مدل تجربی جمنای را معرفی کرد که گزارش شده در چندین معیار از GPT-4 اوپن ای آی بهتر عمل کرده است. در همین حال، آنتروپیک با بروزرسانیهای قابل توجهی به تقویت کلاد ادامه داده است. یکی از این بروزرسانیها به کلاد این امکان را میدهد که در سبکهای مختلف مکالمهای پاسخ دهد، به طوری که به ترجیحات مختلف کاربران پاسخگو باشد. بروزرسانی دیگری ابزار تحلیلی را معرفی کرده که میتواند کد جاوااسکریپت را مستقیماً در داخل ربات چت بنویسد و اجرا کند.