OpenAI привлечет исследователей Apollo для проверки поведения моделей
OpenAI внедрит шесть специалистов Apollo Research для изучения того, способны ли модели компании к деструктивному поведению и саботажу. Однако ограничения на доступ к данным и раскрытие информации ставят под вопрос независимость этой проверки.
Читать в первоисточнике — TechCrunch ↗
Ещё в ленте
ФБР: ИИ-инструмент Artex AI взламывал сети менее чем за три часа
ФБР заявило, что open-source инструмент Artex AI применялся для взлома сетей менее чем за три часа. С его помощью злоумышленники атаковали американского IT-гиганта и финансовый сектор Южной Кореи.
Джордан Белфорт запустил ИИ-стартап Tone для голосовых продаж
Джордан Белфорт представил стартап Tone, создающий голосовой искусственный интеллект для телефонных продаж. Создатель утверждает, что ИИ уже закрывает сделки почти так же эффективно, как лучшие специалисты, и рассчитывает полностью сравнять его результаты с человеческими через год.
Роль параметров семплирования в инференсе больших языковых моделей
Оптимизация инференса языковых моделей традиционно сосредоточена на пропускной способности и задержках с помощью KV-кэша, квантизации и параллелизма. При этом итоговое качество генерации определяется параметрами семплирования — правилами выбора следующего токена из распределения логитов на каждом шаге декодирования.
OpenAI добавила классификатор изображений и предупреждения в ChatGPT для борьбы с CSAM
OpenAI выпустила новый классификатор изображений для борьбы с материалами, содержащими сексуализированное насилие над детьми (CSAM). В рамках новой системы предупреждений ChatGPT будет блокировать на 24 часа учетные записи, с которых пытаются получить доступ к подобному контенту.