Es ist Pfingsten 2026. Auf dem Eisenberg treffen sich 400 Teilnehmer der CdE Pfingstakademie. 10 Davon, um bei mir im Kurs über LLMs zu lernen.
Im Kurs haben wir uns angeschaut, wie Sprachmodelle funktionieren, wie wir Aufgaben an sie deligieren und wie wir mit ihnen echte Probleme lösen. Neun dicht gedrängte Stunden und eine Rotation, viele Fragen und wenige Pausen ... Attention is all you need!
Das Kursmaterial zum Kurs gibt es jetzt hier zum Download:
| # | Titel | Inhalte | Download |
| 1 | paka-live | Live-System, welches wir während des Kurses genutzt haben (optimiert für 128GB USB-Sticks) | pa26/paka-live |
| 2 | Session 2 | Wie funktioniert ein LLM? | Session 2 Slidedeck |
| 3 | Session 3 | Delegation, Prompt Engineering, Evaluation & Verification | Session 3 Slidedeck |
| 4 | Session 4 | RAGs und andere Modelle Wissen in LLMs zu bekommen | Session 4 Slidedeck |
| 5 | Session 5 | Strategiefrage Local AI vs. cloud AI, KI Kosten, Datenschutz, Automation mit n8n | Session 5 Slidedeck |
| 6 | Session 6 | EU AI Act, Fallstudien | Session 6 Slidedeck |
| 7 | Session 7 | Agenten, Bots, Harness Design | Session 7 Slidedeck |
| 8 | Session 8 | Cybersecurity Security und KI | Session 8 Slidedeck |
| 8b | Session 8 Bonusmaterial | Wie sichere ich einen Agenten oder Bot ab | Session 8 Bonus Slidedeck |
| 9 | Session 9 | KI Nutzung in Europa und gesuchte Job-Skills | Session 9 Slidedeck |
Ferner gibt es hier noch zwei Sheet Sheets zum Thema Prompting:
| # | Titel | Inhalt | Download |
|---|---|---|---|
| 1 | Prompting Cheat Sheet | Ein Cheat Sheet mit Prompting-Strategien | Prompting Cheat Sheet |
| 2 | Persona Cheat Sheet | Verschiedene Nützliche Persona, für erfolgreiche Rollenspiele mit LLMs | Persona Cheat Sheet |
Und hier noch ein paar Auszüge aus unseren Übungen:
| # | Titel | Inhalt | Download |
|---|---|---|---|
| 1 | Tokenizer | Visualisierung, wie ein Text in Tokens zerlegt wird | Download |
| 2 | Embeddigs | Visualisierung, wie ein Text in einem LLM eingebettet wird. (Demo verwendet Ollama API und qwen3-embedding) | Download |
| 3 | MiniLLM-Demo | Visualisierung, wie ein LLM aus einem Wort Logits berechnet (Verzichtet auf Attention und Gewichtungen) und wie ein temperierter Softmax auf das Logit wirkt | Download |
| 4 | Automation/EU AI Act-Showcase | Ein mit n8n automatisiertes Bewerberportal, welches als Case Study für die Notwendigkeit und Regelnungen des AI Acts einführt. | Download |
| 5 | Prompt Injection | Prompt-Injections sind ein kaum zu vermeidendes Problem mit LLM, hier die Kursdemo, wie unterschiedliche Mdelle damit umgehen. | Download |
| 6 | Pi Coding Agent - Multi-Agent Docker | Im Kurs verwendete Docker-Umgebung, unter Verwendung von tilldone und agent-teams von https://github.com/disler/pi-vs-claude-code | Download |
Um einen Eindruck zu vermitteln, was mit einem modernen Coding Agent und einem LLM möglich ist, gibt es hier noch ein kleines Projekt Idea Compass. An dem Beispiel lässt sich lernen, wie ein "Vibe-Coding"-Projekt aussehen könnte, und welche Kosten damit verbunden sein könne.
Ich habe dieses kleine Tool - basierend auf dem Disney-Prinzip - mit claude als Beispiel für ein Frontier Modell gebaut. Die Anwendugn selber kann unter Nutzung eines lokalen LLMs (getestet mit Ollama mit GPT-OSS oder gemma4:4b) eure Ideen mit euch auf Herz und Nieren prüfen und euch zu den ersten Schritten leitet ... Nutzt es gerne lokal, schaut euch die Claude.md und die in den Tests enthaltenen Evals an, bei Fragen stehe ich gerne zur Verfügung. Für die Sicherheit des Tools werde ich nicht garantieren. Es geht mir bei Idea Compass um den Prozess, weniger um das Ergebnis
| # | Titel | Inhalt | Download |
|---|---|---|---|
| 1 | Idea Compass | Agent coded tool to guide through a conversation with a LLM based on a prompt kit | Download |
Vielen Dank für eure Aufmerksamkeit. Es hat mir Spaß gemacht!
Da so ein Kurs ja nicht im leeren Raum ensteht, sondern auf Arbeiten anderer basiert, wollen wir hier auch nochmal auf die verwendete Literatur verweisen:
| # | Autor / Titel | Inhalt | Link |
|---|---|---|---|
| Grundlagenarbeiten / Foundational Papers | |||
| 1 | Vaswani et al. (2017) | Transformer-Architektur, Attention | Attention Is All You Need |
| 2 | Zou et al. — CMU + Google DeepMind (2023) | Adversarielle Angriffe auf LLMs | Universal Adversarial Attacks on LLMs |
| 3 | Kran et al. — ICLR 2025 | Dark Patterns in LLMs messen | DarkBench |
| 4 | Atanasov et al. (2025) | SGD-Dynamik, Random Matrix Theory | Two-Point Deterministic Equivalence |
| 5 | ICLR 2025 | Looped Transformers Theorie | Looped Transformers: Theoretical Foundation |
| 6 | Ouro / LoopLM Team (Oktober 2025) | 1.4B matched 12B, latente Loops | Ouro / LoopLM |
| 7 | UC San Diego + Together AI (April 2026) | Stabile Skalierungsgesetze Loops | Parcae |
| 8 | Gomez, K. (April 2026) | Mythos-Hypothese in Code | OpenMythos |
| 9 | Stanford + UIUC + NVIDIA + MIT (April 2026) | Latente Multi-Agenten-Rekursion | RecursiveMAS |
| 10 | Kimi Team (März 2026) | Attention statt fixer Residuen | AttnRes |
| 11 | Martinico et al. — ISTI-CNR Pisa (April 2026) | Effizienter Multivektor-Abruf | TACHIOM |
| Sicherheit / Security | |||
| 12 | Hanzhi Liu, Chaofan Shou, Hongbo Wen, Yanju Chen, Ryan Jingyang Fang, Yu Feng (April 2026) | Böswillige API-Router, 401 YOLO | Your Agent Is Mine |
| 13 | Natalie Shapira, et al. (Februar 2026) | Agenten-Chaos, 11 Fehlermodi | Agents of Chaos |
| 14 | Judy Hanwen Shen, et al.(2026) | Mehr Agenten = mehr Misalignment | AI Orgs: Effective but Less Aligned |
| 15 | BerriAI / FutureSearch (März 2026) | Supply Chain Angriff, .pth Exploit | LiteLLM Supply Chain Attack |
| 16 | Weisswange et al. — Honda Research Europe (2025) | Multi-Agenten Koexistenz, RL | Hierarchical Multi-Agent Coexistence |
| Evaluation / Benchmarks | |||
| 17 | Caiwei Chen - Can we fix AI’s evaluation crisis? | Eval-Krise, keine guten Metriken | Can we fix AI’s evaluation crisis? |
| 18 | Ziskind, A. | Positionsabruf in echtem Code - Finde die Nadel im Heuhaufen | Codeneedle |
| 19 | EmergenceAI (Mai 2026) | Agenten 15 Tage simuliert, Chaos | Emergence World |
| 20 | Kili Technology (2026) | Benchmark-Grenzen 2026 | AI Benchmarks 2026 |
| 21 | Yike Shi, Qing Xiao, Qing Hu, Hong Shen, Hua Shen - The Siren Song of LLMs: How Users Perceive and Respond to Dark Patterns in Large Language Models | LLM-Sycophancy Mechanismen | Siren Song |
| 22 | Wiktoria Mieleszczenko-Kowszewicz, Dawid Płudowski, Filip Kołodziejczyk, Jakub Świstak, Julian Sienkiewicz, Przemysław Biecek (2026) | Dark Patterns in Kreativität | Dark Patterns in Co-Creativity |
| 23 | Wiktoria Mieleszczenko-Kowszewicz, Dawid Płudowski, Filip Kołodziejczyk, Jakub Świstak, Julian Sienkiewicz, Przemysław Biecek (2024) | Big Five Persönlichkeit + LLM | Personalised Persuasion via Big Five |
| 24 | Logical Intelligence (Februar 2026) | EBM löst 96% Sudoku, LLM 2% | Kona 1.0 — Energy-Based Models |
| Modelle — Open Weight | |||
| 25 | PrismML (April 2026) | 1.75GB für 8B, Apache 2.0 | Ternary Bonsai 8B |
| 26 | PrismML (März 2026) | 1.15GB, echtes 1-bit Modell | 1-bit Bonsai 8B |
| 27 | Google (April 2026) | 128 Experten, 256K Kontext | Gemma 4 |
| 28 | Moonshot AI (April 2026) | 300 Sub-Agenten, MIT-Lizenz | Kimi K2.6 |
| 29 | DeepSeek (April 2026) | 1.6T/49B MoE, CSA/HCA, 1M Ctx | DeepSeek V4-Pro |
| 30 | Mistral AI (Mai 2026) | 128B dense, selbst-hostbar, EU | Mistral Medium 3.5 |
| 31 | Mistral AI (Mai 2026) | 119B/6B MoE, Apache 2.0, EU | Mistral Small 4 |
| 32 | Mistral AI (Mai 2026) | Lean 4 Beweise, 96% vs 26% | Leanstral |
| 33 | IBM (April 2026) | Kryptographisch signiert, ISO | IBM Granite 4.1 |
| 34 | NVIDIA (Mai 2026) | 33B multimodal, Video/Audio/GUI | Nemotron 3 Nano Omni |
| 35 | Xiaomi (April 2026) | 1T/42B, harness-aware, MIT | MiMo-V2.5-Pro |
| 36 | Xiaomi (April 2026) | 310B/15B, multimodal + agentic | MiMo-V2.5 |
| 37 | Xiaomi (März 2026) | Physische Welt, autonomes Fahren | MiMo-V2-Omni |
| 38 | Alibaba (Februar 2026) | 2K Auflösung, 4 Schritte, #1 Arena | Qwen Image 2.0 |
| Modelle — Closed / API | |||
| 39 | OpenAI (April 2026) | $5/$30, Gmail-Personalisierung | GPT-5.5 |
| 40 | Anthropic (April 2026) | $5/$25, Task Budgets, Agent SDK | Claude Opus 4.7 |
| 41 | Anthropic (Mai 2026) | $5/$25, 84% Mind2Web, dyn. Workflows | Claude Opus 4.8 |
| 42 | xAI (Mai 2026) | $1.25/$2.50, DoD-integriert | Grok 4.3 |
| 43 | Google (Mai 2026) | 4× schneller, Gemini Spark | Gemini 3.5 Flash |
| 44 | Alibaba (Mai 2026) | $2.50/$7.50, 1158 Steps autonom | Qwen3.7-Max |
| Tools & Frameworks | |||
| 45 | Arman-BD | 9M Parameter, Browser-Demo | GuppyLM |
| 46 | Karpathy, A. | Vollständiges GPT in ~150 Zeilen | microgpt.py |
| 47 | Osmani, A. — MIT (2026) | 19 SDLC-Skills, /spec bis /ship | agent-skills |
| 48 | Disler (2026) | pi-Pipeline, Agenten-Framework | pi-vs-claude-code |
| 49 | Blomqvist, A. (2026) | pi Sub-Agenten, 92K Downloads | pi-subagents |
| 50 | Affaan-M (2026) | Harness-Scanner, 102 Regeln | everything-claude-code |
| 51 | Karpathy, A. (Januar 2026) | 4 Regeln, 110K Sterne | Karpathy CLAUDE.md |
| 52 | Eric, M. | Coding Agent in 200 Zeilen | Emperor Has No Clothes |
| 53 | Unsloth AI | LoRA/QLoRA Fine-Tuning lokal | Unsloth |
| 54 | Superlinked | Embed + Rerank + Extract API | SIE — Structured Info Embedding |
| 55 | exo-explore | Verteilte Inferenz im Netzwerk | exo |
| 56 | NateBJones-Projects | Persistentes Gedächtnis cross-tool | OB1 — Open Brain |
| 57 | CMU + Google DeepMind (2023) | Adversarielle Suffixe, Demo | LLM-Attacks.org |
| 58 | HKUDS | Micro-Agent, Perception+Memory | nanobot |
| 59 | ggml-org (Mai 2026) | MTP in llama.cpp, 1.4-2.2× Speed | llama.cpp MTP PR#22673 |
| 60 | Google AI Edge (2026) | Gemma 4 offline auf Android/iOS | Google AI Edge Gallery |
| 61 | Cursor (Mai 2026) | Kimi K2.5 + targeted RL, Colossus | Cursor Composer 2.5 |
| Marktdaten / Studien | |||
| 62 | McKinsey & Company (November 2025) | 88% nutzen KI, nur 6% Mehrwert | The State of AI 2025 |
| 63 | Eurostat (Dezember 2025) | 32.7% EU-Bürger nutzen GenAI | Eurostat GenAI Adoption |
| 64 | Tiiny AI (März 2026) | $3M in 5 Stunden, AgentBox | Tiiny AI Kickstarter |
| 65 | UGREEN (März 2026) | $9M in 30 Tagen, NAS mit AI | UGREEN AI NAS Kickstarter |
| Hardware | |||
| 66 | AMD (April 2026) | 32GB GDDR6, ~$999, Juli 2026 | AMD Radeon AI PRO R9700 |
| 67 | AMD (Mai 2026) | 144GB HBM3E, PCIe, Enterprise | AMD Instinct MI350P |
| Regulierung / Geopolitik | |||
| 68 | Europäische Union (2024) | AI Act, Art. 5, Art. 50 | EU AI Act |
| 69 | Bloomberg (April 2026) | Distillations-Koalition vs. China | OpenAI/Anthropic/Google Koalition |
| 70 | TechCrunch (April 2026) | Musk: Grok auf OpenAI trainiert | Musk xAI Testimony |
| 71 | Anthropic (Mai 2026) | SpaceX Colossus 300MW Miete | Anthropic SpaceX Deal |
| 72 | Golem.de (Mai 2026) | Mistral kauft JKU Spin-off, €200M+ | Mistral kauft Emmi AI |
| Blogs / Interviews / Videos | |||
| 73 | Illingworth, S. — Slow AI Substack | Alter Laptop, mehr gelernt als Cloud | Run AI Locally on Old Laptop |
| 74 | Nate's Newsletter | Personal AI Stack, lokal bauen | Personal AI Computer Stack |
| 75 | Goedecke, S. | Sycophancy absichtlich eingebaut | AI Sycophancy — Insider View |
| 76 | Lütke, T. — Shopify (2025) | Reflexive KI = Baseline-Erwartung | Shopify "Red Queen Race" Memo |
| 77 | Amodei, D. — Anthropic | 80× Wachstum, Compute-Kosten | Dario Amodei Interview |
| 78 | Lopopolo, R. — OpenAI (April 2026) | 1M LOC, 1B tok/Tag, 0% manuell | Extreme Harness Engineering |
| 79 | Lopopolo, R. — OpenAI (2026) | Harness Engineering Essay | OpenAI Harness Engineering Blog |
| 80 | OMR (2026) | LLM-Suche, Listicles, Advertorials | AI Search 2026: Was funktioniert |
| 81 | Decrypt (Mai 2026) | KI-Agenten: Brandstiftung, Chaos | AI Agents Turn to Digital Arson |
| 82 | Anonym (2026) | Quantisierung → Fakten+Halluz. | Quantization capability loss demo |
| 83 | Mer.vin (April 2026) | DeepSeek V4 Architektur erklärt | DeepSeek V4 Preview Explained |
| 84 | The Shortcut (Mai 2026) | Google I/O 2026 Zusammenfassung | Google I/O 2026 Highlights |
| 85 | 9to5Google (Mai 2026) | Alle Ankündigungen Google I/O | Everything new at Google I/O 2026 |
| 86 | AI Governance Lead Substack (2026) | Emergence World Analyse | Emergence World Experiment |
| Sonstiges | |||
| 87 | PacktPublishing | Code-Repos zu KI-Büchern | PacktPublishing GitHub |
| 88 | Google DeepMind | SynthID Text Open Source | SynthID Text |
| 89 | EmergenceAI (2026) | Langzeit-Agenten-Evaluation | Emergence World Blog |
| 90 | Emmi AI / JKU Linz | Physics AI, Aerodynamik, Simulation | Emmi AI |
| 91 | OpenAI (2026) | Bildgenerierung Prompting Guide | OpenAI Image Gen Cookbook |
| 92 | Maes, Le Lidec, Scieur, LeCun, Balestriero (März 2026) | Erstes stabiles End-to-End JEPA aus Pixeln, 48× schneller als Foundation-Model-basierte World Models | LeWorldModel (LeWM) |
