澤井のメモ

• AI
  • Deep Learning
    • 単語の分散表現
    • RNN 順伝播
    • RNN 逆伝播
    • RNN 時系列 Softmax-with-Loss レイヤの逆伝播
    • LSTM
    • CNN
    • Code Reading
    • LLM
      • Transformer
        • 概要
        • トークン化
        • Attention
        • 数学
    • SGD
    • 開発・運用環境
      • エッジコンピューティング
        • プルーニング（枝刈り）
        • 蒸留
        • 量子化
      • 分散処理
      • アクセラレータ
      • 環境構築
    • 補足
      • CBOW
      • word2vector
• 数学
  • 関数
  • 対数
  • 行列
  • ノルム
  • ヤコビ行列
  • 固有値
  • 勾配
  • 計算グラフ
  • 確率・統計
    • 確率の基礎
    • 確率分布
    • 同時確確分布
    • ベルヌーイ分布
    • 二項分布
    • マルチヌーイ分布
    • 一変数正規分布
    • 期待値
    • 最尤法
    • ベイズ確率
    • 順列・組み合わせの数
• 情情理論
  • 情報量、エントロピー、交差エントロピーの概要
  • 情報量
  • エントロピー
  • KLダイバージェンス
  • 交差エントロピー
  • 補足
    • 浮動小数点数
• Python
  • 環境構築
  • Numpy
  • パッケージ・モジュール
  • import
  • pickle 形式
  • コレクション
• E資格
• キーワード

サイト

• https://hiroshi-sawai.com
• https://info-town.jp
• https://findxfine.com