GPT-3

NaturalLanguageProcessing > GPT-3

• https://github.com/openai/gpt-3
  • https://github.com/openai/gpt-3/blob/master/overlap_frequency.md

• https://arxiv.org/abs/2005.14165

.

• チューリングテストもパスしそうな文章生成AI、GPT-3はプレゼン資料作りもこなす！
  • https://techable.jp/archives/132357

• GPT-3の衝撃
  • http://deeplearning.hatenablog.com/entry/gpt3

    「GPT-3の方法はこれまでのDeep Learning研究の観点からみるとかなり特殊です．むしろ新しいプログラミングパラダイムと見るべきかもしれません．」

    『GPT-3の登場時はそれほど話題になっていませんでした．かくいう私もGPT-2がパワーアップした程度の認識でした．ところがOpenAI APIがこの認識を覆します．』

関連

• Transformer (事前学習するモデル)