Люди в ИИ
Лучшие подкасты, видео и интервью: Diogo Almeida
Диогу Алмейда (Diogo Almeida) — сооснователь TypeSafe AI, бывший сотрудник OpenAI и соавтор статьи InstructGPT. В недавних выступлениях он спрашивает, почему впечатляющие модели всё ещё не могут надёжно выполнять работу без постоянного контроля. Раннее интервью показывает, какие инженерные проблемы интересовали его прежде.
Его нынешнюю должность и исследовательский опыт подтверждают страница команды TypeSafe и статья InstructGPT.
От нынешней позиции — к её истокам
Сначала посмотрите выступление о разнице между помощью человеку и самостоятельным выполнением задачи. Затем — более узкий разговор о целях обучения с RLHF. Подкаст 2016 года и выступление на GOTO в 2017-м показывают два ранних этапа его работы. Все записи на английском языке. По расшифровкам удобно находить его высказывания об RLHF и автоматизации и сверять их с контекстом.
Примеры работы с API Jev и обсуждения разработчиков есть в независимом руководстве Jev AI Dev.
Подборка Readpodcast AI · Последнее обновление · Названия программ и выпусков сохранены на языке оригинала.
Для начала
Два выступления о его нынешней позиции
Первое формулирует общую проблему, второе разбирает обучение по предпочтениям людей.
Карьера и идеи
От OpenAI к TypeSafe: что связывает его работы
Полезно различать прежние исследования, нынешние аргументы и заявления о продукте.
- Кто такой Диогу Алмейда?
- Он сооснователь и генеральный директор TypeSafe AI. Ранее работал в OpenAI и Google Brain, участвовал в написании статьи InstructGPT.
- Над чем он работал в OpenAI?
- В работе над InstructGPT исследовали, как обратная связь от людей улучшает выполнение инструкций. Теперь Алмейда задаётся вопросом, достаточно ли ответа, понравившегося оценщику, для работы без наблюдения.
- Как связаны ранние и нынешние выступления?
- В 2016 году он говорил о практических сложностях систем глубокого обучения, в 2017-м — о возможных и пока недоступных задачах. Сегодня его интересует разрыв между сильными результатами моделей и надёжной автоматизацией.
- Как здесь связан Jev?
- TypeSafe представляет Jev как модель для типизированных решений и вероятностей внутри программ. Выступления объясняют этот выбор, но пользу для конкретной задачи нужно проверять на своих данных и с учётом цены ошибки.
Ранний взгляд
Интервью об инженерных трудностях
Сравните прежние вопросы с его нынешним вниманием к надёжности.
Из архива
Как он оценивал глубокое обучение в 2017 году
На GOTO Алмейда говорит о достижениях и ограничениях того времени. Это исторический контекст, а не выступление о Jev.
Модель
Посмотреть, как Jev принимает решения
Демонстрации показывают работу модели TypeSafe на конкретных примерах и помогают оценить идеи Алмейды.
Поиск
Найти новые интервью
Ищите беседы, в которых проверяют его идеи об автоматизации или обсуждают развитие TypeSafe.


