Readpodcast AI

JEV CEO:RLHF是走弯路​ | RLHF | OpenAI | 大语言模型 | 人工智能 | Diogo Almeida | JEV | 机器学习 | AI泡沫 | AI经济革命

25/9/202618:1922.963 visualizacionesVer en YouTube

前OpenAI核心成员、GPT-4与ChatGPT共同作者Diogo Almeida在两场技术分享中深入剖析了当前AI领域的核心矛盾:模型在辅助任务上表现惊艳,在自动化任务上却几乎不可用。他指出RLHF(基于人类反馈的强化学习)通过优化人类偏好,导致模型天然倾向于"过度承诺",产出的答案总是看起来貌似正确但实际可能有误。他重新解读了萨顿的"苦涩教训",提出"做对任务比数据重要,数据比算力重要",并以此解释Anthropic的崛起。他宣布自己的公司TypeSafe将放弃辅助能力,全力投入自动化方向,认为RLHF是AI发展史上一条本可避免的弯路,未来的AI应该是为自动化而生的,而不仅仅是更便宜地写代码。 https://www.youtube.com/watch?v=cJ0EOzey--o https://www.youtube.com/watch?v=TWeXnSoGIpg

Read Video · Transcripción e Insights

Genera transcripción e insights IA — Prueba gratis

Cuenta gratuita · sin tarjeta · 150 créditos al registrarte, suficiente para este episodio

  • 📄 Transcripción completa con marcas de tiempo
  • ✨ Resumen IA, palabras clave y mapa mental
  • 💡 Puntos clave y citas destacadas

Episodios y videos listos para leer