ILU - ILIAS Lernumgebung der TH KÖLN

Wiki zu Large Language Models und modernen KI-Technologien im Allgemeinen – Prof. Dr. Ralph Krüger

Eine sukzessive zu erweiternde Wissenssammlung zu modernen KI-Technologien unter besonderer Berücksichtigung von Large Language Models (GPT-4 usw.)

Reiter

Technische Grundlagen

Technical Papers

Technical Paper zum Transformer (Vaswani et al. 2017)

Technical Paper zu GPT-1 (Radford et al. 2018)

Technical Paper zu GPT-2 (Radford et al. 2019)

Technical Paper zu GPT-3 (Brown et al. 2020)

Technical Paper zu InstructGPT (Ouyang et al. 2022)

Technical Paper zu GPT-4 (OpenAI 2023)

Technical Paper zu Gemini (Google DeepMind 2023)

Übersichtsdarstellungen

Raiaan et al. (2023): A Review on Large Language Models: Architectures, Applications, Taxonomies, Open Issues and Challenges

Thompson, Alan D. (2023): Inside Language Models (from GPT-4 to PaLM)

Zhao et al. (2023): A Survey of Large Language Models

Populärwissenschaftliche Erklärungen

Uszkoreit, Jakob (2017): Transformer: A Novel Neural Network Architecture for Language Understanding

Alammar, Jay (2018): The Illustrated Transformer

Alammar, Jay (2019): The Illustrated GPT-2 (Visualizing Transformer Language Models)

Alammar, Jay (2020): How GPT-3 Works – Visualizations and Animations

Karpathy, Andrej (2023): Intro to Large Language Models

Krüger, Ralph (2021): Die Transformer-Architektur für Systeme zur neuronalen maschinellen Übersetzung – eine popularisierende Darstellung

Krüger, Ralph (2023): Artificial Intelligence Literacy for the Language Industry – with Particular Emphasis on Recent Large Language Models such as GPT-4

Cohere (2023): LLM University

Linde, Helmut (2023) (Golem): Künstliche Intelligenz. So funktioniert ChatGPT

Google (2023): Generative AI Learning Path

Capitella, Donato (2023): LLM Chronicles

Karpathy, Andrej (2023): Let's Build GPT: From Scratch, in Code, Spelled Out

Bischoff, Manon (2023) (Spektrum.de): Wie funktionieren Sprachmodelle wie ChatGPT?

Visual Storytelling Team/Murgia, Madhumita (2023) (Financial Times): Generative AI Exists Because of the Transformer

Zuletzt geändert: 22. Jan 2024, 10:27, Krüger, Ralph [rkruege1]