Readpodcast AI

Люди в ИИ

Лучшие подкасты, видео и интервью: Diogo Almeida

Диогу Алмейда (Diogo Almeida) — сооснователь TypeSafe AI, бывший сотрудник OpenAI и соавтор статьи InstructGPT. В недавних выступлениях он спрашивает, почему впечатляющие модели всё ещё не могут надёжно выполнять работу без постоянного контроля. Раннее интервью показывает, какие инженерные проблемы интересовали его прежде.

Его нынешнюю должность и исследовательский опыт подтверждают страница команды TypeSafe и статья InstructGPT.

От нынешней позиции — к её истокам

Сначала посмотрите выступление о разнице между помощью человеку и самостоятельным выполнением задачи. Затем — более узкий разговор о целях обучения с RLHF. Подкаст 2016 года и выступление на GOTO в 2017-м показывают два ранних этапа его работы. Все записи на английском языке. По расшифровкам удобно находить его высказывания об RLHF и автоматизации и сверять их с контекстом.

Примеры работы с API Jev и обсуждения разработчиков есть в независимом руководстве Jev AI Dev.

Подборка Readpodcast AI · Последнее обновление · Названия программ и выпусков сохранены на языке оригинала.

Для начала

Два выступления о его нынешней позиции

Первое формулирует общую проблему, второе разбирает обучение по предпочтениям людей.

Карьера и идеи

От OpenAI к TypeSafe: что связывает его работы

Полезно различать прежние исследования, нынешние аргументы и заявления о продукте.

Кто такой Диогу Алмейда?
Он сооснователь и генеральный директор TypeSafe AI. Ранее работал в OpenAI и Google Brain, участвовал в написании статьи InstructGPT.
Над чем он работал в OpenAI?
В работе над InstructGPT исследовали, как обратная связь от людей улучшает выполнение инструкций. Теперь Алмейда задаётся вопросом, достаточно ли ответа, понравившегося оценщику, для работы без наблюдения.
Как связаны ранние и нынешние выступления?
В 2016 году он говорил о практических сложностях систем глубокого обучения, в 2017-м — о возможных и пока недоступных задачах. Сегодня его интересует разрыв между сильными результатами моделей и надёжной автоматизацией.
Как здесь связан Jev?
TypeSafe представляет Jev как модель для типизированных решений и вероятностей внутри программ. Выступления объясняют этот выбор, но пользу для конкретной задачи нужно проверять на своих данных и с учётом цены ошибки.

Ранний взгляд

Интервью об инженерных трудностях

Сравните прежние вопросы с его нынешним вниманием к надёжности.

Из архива

Как он оценивал глубокое обучение в 2017 году

На GOTO Алмейда говорит о достижениях и ограничениях того времени. Это исторический контекст, а не выступление о Jev.

Модель

Демонстрации показывают работу модели TypeSafe на конкретных примерах и помогают оценить идеи Алмейды.

Узнать о Jev

Поиск

Найти новые интервью

Ищите беседы, в которых проверяют его идеи об автоматизации или обсуждают развитие TypeSafe.

Искать Diogo Almeida