Генеральний директор OpenAI визнає ризики ChatGPT. Що тепер? | AI Beat

Ознайомтеся з усіма сесіями на замовлення саміту Intelligent Security Summit тут.


Минулими вихідними генеральний директор OpenAI Сем Альтман раптово втрутився в сварку Twitter навколо ChatGPT, нещодавно випущеної моделі генерації розмовного тексту компанії, з напрочуд твердою ноткою обережності:

«ChatGPT неймовірно обмежений, але достатньо хороший у деяких речах, щоб створити оманливе враження величі», він твітнув в суботу. «Помилково покладатися на це зараз у будь-чому важливому. Це попередній перегляд прогресу; нам потрібно багато попрацювати над надійністю та правдивістю».

Потік завершився приміткою, що для ChatGPT «веселе творче натхнення; здорово! опора на фактичні запити; не така гарна ідея. Ми будемо наполегливо працювати над покращенням!»

OpenAI бореться з ажіотажем ChatGPT

Що спонукало Альтмана до коментарів? Зрештою, коли OpenAI випустив ChatGPT 30 листопада, хоча він і попередив, що це рання демонстраційна та дослідницька версія з «багатьма обмеженнями», він підняв ажіотаж щодо майбутніх програм: «Незабаром ви зможете мати корисних помічників, які спілкуватися з вами, відповідати на запитання та давати поради», – написав він у Twitter. «Пізніше у вас може бути щось, що вмикається і виконує завдання за вас. [E]зрештою у вас може бути щось, що виходить і відкриває для вас нові знання».

Подія

Intelligent Security Summit On-Demand

Дізнайтеся про важливу роль штучного інтелекту та машинного навчання в кібербезпеці та конкретних галузевих прикладах. Дивіться сеанси за запитом сьогодні.

Дивіться тут

Останні застережні нотатки Альтмана, ймовірно, не відповідають колонці AI Beat минулого тижня. Швидше за все, вони з’явилися в результаті останніх півтора тижнів масового ажіотажу — і барабанної критики. Наразі ChatGPT від OpenAI описували як «сенсацію» і «найбільш проривну технологію з тих пір, як [fill in the blank]” до „художника-бика****” світового класу та „на кшталт того п’яного хлопця чи дівчини, яких ти зустрічаєш у барі, які ніколи не перестають говорити, базікати безперервно, привабливо поєднуючи факти та випадкову фігню, але це ти точно ніколи не захочеш брати додому до своїх батьків».

Можливо, найбільш помітним є те, що Альтман бачить наслідки того, що дослідницька демонстрація OpenAI різко вразила мейнстрім. New York Times, Wall Street Journal, Washington Post, Atlantic і навіть Fox Weather висвітлювали це лише за останні кілька днів.

Що тепер відбувається з ChatGPT?

Наразі, здається, кінь ChatGPT повністю вийшов із сараю та біжить по Мейн-стріт. Немає жодних ознак того, що його популярність уповільнюється: насправді OpenAI, схоже, не встигає за потужністю. Деякі повідомили, що отримували записки з написом «Ого! Можливо, вам доведеться трохи почекати. Наразі ми отримуємо більше запитів, ніж нам зручно».

Але поки запаморочливі темпи дискурсу навколо ChatGPT тривають — від тих вказуючи пальці що Google за нібито відставання в LLM, занепокоєння щодо майбутнього есе для коледжів — здається, ті, хто розробляє ці моделі, тримають голову опущеною, усвідомлюючи жорстоку конкуренцію попереду.

З боку OpenAI очевидно, що компанія використовує цей період широкомасштабних експериментів спільноти з ChatGPT, щоб отримати RLHF — підсилення навчання на основі відгуків людей — для довгоочікуваного майбутнього випуску GPT-4.

Звичайно, поки генеральний директор Stability AI Емад Мостаке каже саме цевін також представляє іншу сторону медалі: тих, хто цілодобово швидко працює над створенням варіанта ChatGPT з відкритим кодом.

LAION, один із творців Stable Diffusion, каже, що вже активно над цим працює:

Отже, чекаємо. Тим часом я обіцяю, що жоден із наведених вище текстів не був написаний ChatGPT. Я тримаюся — поки що.

Місія VentureBeat має стати цифровою міською площею для тих, хто приймає технічні рішення, щоб отримати знання про трансформаційні корпоративні технології та транзакції. Відкрийте для себе наші брифінги.

Leave a Comment