openai fulltime machine learning onsite interview coding questions

分享一下前几周面的两轮 ML coding 题目，希望对正在准备的朋友有帮助。

之前一段时间没登录米都扣完了，求大家加加米，多谢

第一轮：Entropy 计算

给定 logits，计算 entropy（需要用 log-sum-exp trick 保证数值稳定）
如果 logits 是 streaming 进来的（block-by-block），怎么 online 算 entropy？第二轮：1-NN

用 L2 distance 实现 1-NN（不能用 for loop，要 numpy vectorize）
把1-NN表达成 neural network 的 forward pass（用 linear layer + softmax）
如果换成 L1 distance，怎么用 neural network 实现？

分享一下前几周面的两轮 ML coding 题目，希望对正在准备的朋友有帮助。

之前一段时间没登录米都扣完了，求大家加加米，多谢

第一轮：Entropy 计算

给定 logits，计算 entropy（需要用 log-sum-exp trick 保证数值稳定）
如果 logits 是 streaming 进来的（block-by-block），怎么 online 算 entropy？第二轮：1-NN

用 L2 distance 实现 1-NN（不能用 for loop，要 numpy vectorize）
把1-NN表达成 neural network 的 forward pass（用 linear layer + softmax）
如果换成 L1 distance，怎么用 neural network 实现？