From d84b4fcb04a4dece5d707cca18c2f34f3efb89b1 Mon Sep 17 00:00:00 2001
From: Erik Behrends <behrends@users.noreply.github.com>
Date: Mon, 1 Jul 2024 10:19:00 +0200
Subject: [PATCH 1/4] Remove <Bleed/> tags

---
 pages/introduction/examples.de.mdx       | 13 +++++--------
 pages/research/rag_hallucinations.de.mdx | 14 +++++---------
 pages/research/synthetic_data.de.mdx     | 16 ++++++----------
 3 files changed, 16 insertions(+), 27 deletions(-)

diff --git a/pages/introduction/examples.de.mdx b/pages/introduction/examples.de.mdx
index b515ceaf8..de47c8b80 100644
--- a/pages/introduction/examples.de.mdx
+++ b/pages/introduction/examples.de.mdx
@@ -2,7 +2,6 @@
 
 import {Cards, Card} from 'nextra-theme-docs'
 import {CodeIcon} from 'components/icons'
-import {Bleed} from 'nextra-theme-docs'
 
 Der vorherige Abschnitt hat ein grundlegendes Beispiel dafür vorgestellt, wie man Prompts für LLMs verwendet.
 
@@ -19,13 +18,11 @@ Themen:
 
 ---
 
-<Bleed>
-  <iframe width="100%"
-    height="415px"
-    src="https://www.youtube.com/embed/TBhRC4Dath4?si=6nwh0GuYAOv1H6yT" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture"
-    allowFullScreen
-    />
-</Bleed>
+<iframe width="100%"
+   height="415px"
+   src="https://www.youtube.com/embed/TBhRC4Dath4?si=6nwh0GuYAOv1H6yT" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture"
+   allowFullScreen
+   />
 
 ## Textzusammenfassung
 Eine der Standardaufgaben in der Generierung natürlicher Sprache ist die Textzusammenfassung. Textzusammenfassung kann viele verschiedene Varianten und Bereiche umfassen. Tatsächlich ist eine der vielversprechendsten Anwendungen von Sprachmodellen die Fähigkeit, Artikel und Konzepte in schnelle und leicht verständliche Zusammenfassungen zu transformieren. Versuchen wir eine grundlegende Aufgabe zur Zusammenfassung mit Hilfe von Prompts.
diff --git a/pages/research/rag_hallucinations.de.mdx b/pages/research/rag_hallucinations.de.mdx
index 7bf9b5a8b..7b531be72 100644
--- a/pages/research/rag_hallucinations.de.mdx
+++ b/pages/research/rag_hallucinations.de.mdx
@@ -1,14 +1,10 @@
 # Reduzierung von Halluzinationen in strukturierten Ausgaben durch RAG
 
-import {Bleed} from 'nextra-theme-docs'
-
-<Bleed>
-  <iframe width="100%"
-    height="415px"
-    src="https://www.youtube.com/embed/TUL5guqZejw?si=Doc7lzyAY-SKr21L" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture"
-    allowFullScreen
-    />
-</Bleed>
+<iframe width="100%"
+   height="415px"
+   src="https://www.youtube.com/embed/TUL5guqZejw?si=Doc7lzyAY-SKr21L" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture"
+   allowFullScreen
+   />
 
 Forscher bei ServiceNow haben ein [neues Paper](https://arxiv.org/abs/2404.08189) veröffentlicht, in dem sie diskutieren, wie ein effizientes RAG-System für strukturierte Ausgabeaufgaben eingesetzt werden kann.
 
diff --git a/pages/research/synthetic_data.de.mdx b/pages/research/synthetic_data.de.mdx
index d88055db2..eafb1b47c 100644
--- a/pages/research/synthetic_data.de.mdx
+++ b/pages/research/synthetic_data.de.mdx
@@ -1,14 +1,10 @@
 # Best Practices und gewonnene Erkenntnisse über synthetische Daten für Sprachmodelle
 
-import {Bleed} from 'nextra-theme-docs'
-
-<Bleed>
-  <iframe width="100%"
-    height="415px"
-    src="https://www.youtube.com/embed/YnlArBZJHY8?si=ZH3hFzwixUopxU5Z" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture"
-    allowFullScreen
-    />
-</Bleed>
+<iframe width="100%"
+  height="415px"
+  src="https://www.youtube.com/embed/YnlArBZJHY8?si=ZH3hFzwixUopxU5Z" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture"
+  allowFullScreen
+/>
 
 Dieses [Paper](https://arxiv.org/abs/2404.07503) bietet einen Überblick über bewährte Praktiken und gewonnene Erkenntnisse bezüglich synthetischer Daten für Sprachmodelle und wurde von Google DeepMind und weiteren Mitarbeitern veröffentlicht.
 
@@ -18,4 +14,4 @@ Wir wissen mit Sicherheit, dass je mehr hochwertige Daten wir diesen Modellen zu
 
 Das Paper behandelt auch wichtige Themen im Umgang mit synthetischen Daten wie Qualitätssicherung, Faktentreue, Treue, Unvoreingenommenheit, Vertrauenswürdigkeit, Privatsphäre und mehr.
 
-Im Abschnitt zu verwandten Arbeiten werden auch viele großartige Referenzen erwähnt.
\ No newline at end of file
+Im Abschnitt zu verwandten Arbeiten werden auch viele großartige Referenzen erwähnt.

From a055b58fcae72a4c33d4ba2b350c63e63a1bab32 Mon Sep 17 00:00:00 2001
From: Erik Behrends <behrends@users.noreply.github.com>
Date: Mon, 1 Jul 2024 10:25:28 +0200
Subject: [PATCH 2/4] Update rag.de.mdx with rag simulators

---
 pages/research/rag.de.mdx | 2 ++
 1 file changed, 2 insertions(+)

diff --git a/pages/research/rag.de.mdx b/pages/research/rag.de.mdx
index 6adb62ba3..32570c117 100644
--- a/pages/research/rag.de.mdx
+++ b/pages/research/rag.de.mdx
@@ -180,6 +180,7 @@ Unten finden Sie eine Sammlung von Forschungsarbeiten, die wichtige Erkenntnisse
 
 | **Erkenntnis**  | **Referenz** | **Datum** |
 | ------------- | ------------- | ------------- |
+| Zeigt, wie Retrieval-Augmentierung verwendet werden kann, um Sprachmodel-Assistenten durch das Training von Retrieval-Augmented-Simulatoren zu destillieren. | [KAUCUS: Knowledge Augmented User Simulators for Training Language Model Assistants](https://aclanthology.org/2024.scichat-1.5) | März 2024 |
 | Schlägt Corrective Retrieval Augmented Generation (CRAG) vor, um die Robustheit der Generation in einem RAG-System zu verbessern. Die Kernidee besteht darin, eine Selbstkorrekturkomponente für den Retriever zu implementieren und die Nutzung abgerufener Dokumente zur Unterstützung der Generation zu verbessern. Der Retrieval-Evaluator hilft, die Gesamtqualität der abgerufenen Dokumente anhand einer Anfrage zu bewerten. Durch die Nutzung von Websuche und optimierten Wissensnutzungsoperationen kann die automatische Selbstkorrektur und effiziente Nutzung abgerufener Dokumente verbessert werden. | [Corrective Retrieval Augmented Generation](https://arxiv.org/abs/2401.15884)| Jan 2024|
 | Betten rekursiv Textblöcke ein, clustert und fasst sie zusammen, um einen Baum mit unterschiedlichen Zusammenfassungsebenen von unten nach oben zu konstruieren. Zur Inferenzzeit ruft das vorgeschlagene RAPTOR-Modell aus dem Baum ab, integriert Informationen aus langen Dokumenten auf verschiedenen Abstraktionsebenen. | [RAPTOR: Recursive Abstractive Processing for Tree-Organized Retrieval](https://arxiv.org/abs/2401.18059)| Jan 2024 |
 | Ein allgemeines Programm mit mehrstufigen Interaktionen zwischen LMs und Retrievern, um Multi-Label-Klassifikationsprobleme effizient anzugehen. | [In-Context Learning for Extreme Multi-Label Classification](https://arxiv.org/abs/2401.12178) | Jan 2024 |
@@ -234,6 +235,7 @@ Unten finden Sie eine Sammlung von Forschungsarbeiten, die wichtige Erkenntnisse
 
 ## Referenzen
 
+- [KAUCUS: Knowledge Augmented User Simulators for Training Language Model Assistants](https://aclanthology.org/2024.scichat-1.5)
 - [A Survey on Hallucination in Large Language Models: Principles,Taxonomy, Challenges, and Open Questions](https://arxiv.org/abs/2311.05232)
 - [Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks](https://arxiv.org/abs/2005.11401)
 - [Retrieval-augmented multimodal language modeling](https://arxiv.org/abs/2211.12561)

From c1559622122695ac3785bd157e9d6b39f5bbff4d Mon Sep 17 00:00:00 2001
From: Erik Behrends <behrends@users.noreply.github.com>
Date: Mon, 1 Jul 2024 10:36:43 +0200
Subject: [PATCH 3/4] context caching

---
 pages/applications.de.mdx                 |  4 +-
 pages/applications/_meta.de.json          |  1 +
 pages/applications/context-caching.de.mdx | 54 +++++++++++++++++++++++
 3 files changed, 57 insertions(+), 2 deletions(-)
 create mode 100644 pages/applications/context-caching.de.mdx

diff --git a/pages/applications.de.mdx b/pages/applications.de.mdx
index 57d642c5f..1ad7c28e8 100644
--- a/pages/applications.de.mdx
+++ b/pages/applications.de.mdx
@@ -1,4 +1,4 @@
-# LLM-Anwendungen
+# LLM-Anwendungen & Anleitungen
 
 import { Callout } from 'nextra-theme-docs';
 import { Cards, Card } from 'nextra-theme-docs';
@@ -7,4 +7,4 @@ import ContentFileNames from 'components/ContentFileNames'
 
 In diesem Abschnitt werden wir einige fortgeschrittene und interessante Methoden besprechen, wie wir Prompt-Engineering nutzen können, um nützliche und anspruchsvollere Aufgaben mit LLMs (große Sprachmodelle) zu bewältigen.
 
-<ContentFileNames section="applications" lang="de"/>
\ No newline at end of file
+<ContentFileNames section="applications" lang="de"/>
diff --git a/pages/applications/_meta.de.json b/pages/applications/_meta.de.json
index 769e0553c..954ef2b27 100644
--- a/pages/applications/_meta.de.json
+++ b/pages/applications/_meta.de.json
@@ -1,5 +1,6 @@
 {
   "function_calling": "Funktionsaufrufe",
+  "context-caching": "Kontext-Caching mit LLMs",
   "generating": "Generierung von Daten",
   "synthetic_rag": "Generierung eines synthetischen Datensatzes für RAG",
   "generating_textbooks": "Umgang mit generierten Datensätzen und deren Vielfalt",
diff --git a/pages/applications/context-caching.de.mdx b/pages/applications/context-caching.de.mdx
new file mode 100644
index 000000000..c16d2294b
--- /dev/null
+++ b/pages/applications/context-caching.de.mdx
@@ -0,0 +1,54 @@
+# Kontext-Caching mit Gemini 1.5 Flash
+
+import {Cards, Card} from 'nextra-theme-docs'
+import {CodeIcon} from 'components/icons'
+
+Google hat kürzlich ein neues Feature namens [Kontext-Caching](https://ai.google.dev/gemini-api/docs/caching?lang=python) veröffentlicht, das über die Gemini-APIs mithilfe der Modelle Gemini 1.5 Pro und Gemini 1.5 Flash verfügbar ist. Diese Anleitung bietet ein grundlegendes Beispiel dafür, wie man Kontext-Caching mit Gemini 1.5 Flash verwendet.
+
+<iframe width="100%"
+  height="415px"
+  src="https://www.youtube.com/embed/987Pd89EDPs?si=j43isgNb0uwH5AeI" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture"
+  allowFullScreen
+  />
+
+https://youtu.be/987Pd89EDPs?si=j43isgNb0uwH5AeI
+
+### Der Anwendungsfall: Analyse eines Jahres an ML-Papieren
+
+Die Anleitung zeigt, wie man Kontext-Caching verwenden kann, um die Zusammenfassungen aller [ML-Papiere, die wir im letzten Jahr dokumentiert haben](https://github.com/dair-ai/ML-Papers-of-the-Week), zu analysieren. Wir speichern diese Zusammenfassungen in einer Textdatei, die jetzt an das Modell Gemini 1.5 Flash übergeben und effizient abgefragt werden kann.
+
+### Der Prozess: Hochladen, Caching und Abfragen
+
+1. **Datenvorbereitung:** Zuerst die README-Datei (die die Zusammenfassungen enthält) in eine Klartextdatei umwandeln.
+2. **Verwendung der Gemini-API:** Die Textdatei kann mithilfe der Google-`generativeai`-Bibliothek hochgeladen werden.
+3. **Implementierung des Kontext-Cachings:** Ein Cache wird mit der Funktion `caching.CachedContent.create()` erstellt. Dies umfasst:
+    * Spezifizierung des Gemini Flash 1.5 Modells.
+    * Vergabe eines Namens für den Cache.
+    * Definition einer Anweisung für das Modell (z.B. "Sie sind ein Experte für KI-Forschung...").
+    * Festlegung einer „time to live“ (TTL) für den Cache (z.B. 15 Minuten).
+4. **Erstellen des Modells:** Anschließend wird eine generative Modellinstanz mit dem gecachten Inhalt erstellt.
+5. **Abfragen:** Wir können das Modell mit natürlichen Sprachfragen abfragen, wie zum Beispiel:
+    * "Kannst du mir bitte die neuesten AI-Papiere der Woche nennen?"
+    * "Kannst du die Papiere auflisten, die Mamba erwähnen? Nennen Sie den Titel des Papiers und die Zusammenfassung."
+    * "Was sind einige der Innovationen rund um Long-Context-LLMs? Nenne den Titel des Papiers und die Zusammenfassung."
+
+Die Ergebnisse waren vielversprechend. Das Modell hat Informationen aus der Textdatei genau abgerufen und zusammengefasst. Kontext-Caching erwies sich als sehr effizient und eliminierte die Notwendigkeit, die gesamte Textdatei mit jeder Anfrage erneut zu senden.
+
+Dieser Workflow hat das Potenzial, ein wertvolles Werkzeug für Forscher zu werden, da er ihnen ermöglicht:
+
+* Große Mengen an Forschungsdaten schnell zu analysieren und abzufragen.
+* Spezifische Ergebnisse zu finden, ohne manuell durch Dokumente suchen zu müssen.
+* Interaktive Forschungssitzungen durchzuführen, ohne Eingabetokens zu verschwenden.
+
+Wir freuen uns darauf, weitere Anwendungen des Kontext-Cachings zu erkunden, insbesondere in komplexeren Szenarien wie agentischen Workflows.
+
+Das Notebook ist unten zu finden:
+
+<Cards>
+    <Card 
+        icon={<CodeIcon />}
+        title="Kontext-Caching mit Gemini-APIs"
+        href="https://github.com/dair-ai/Prompt-Engineering-Guide/blob/main/notebooks/gemini-context-caching.ipynb"
+    />
+</Cards>
+`

From f57c71abbdbb9848427840b998354316b005513f Mon Sep 17 00:00:00 2001
From: Erik Behrends <behrends@users.noreply.github.com>
Date: Mon, 1 Jul 2024 10:38:07 +0200
Subject: [PATCH 4/4] fs

---
 pages/techniques/fewshot.de.mdx | 6 ++++++
 1 file changed, 6 insertions(+)

diff --git a/pages/techniques/fewshot.de.mdx b/pages/techniques/fewshot.de.mdx
index 21d64c552..8e7679fff 100644
--- a/pages/techniques/fewshot.de.mdx
+++ b/pages/techniques/fewshot.de.mdx
@@ -1,5 +1,11 @@
 # Few-Shot Prompting
 
+<iframe width="100%"
+  height="415px"
+  src="https://www.youtube.com/embed/ojtbHUqw1LA?si=DPHurHTzZXm22vcN" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture"
+  allowFullScreen
+  />
+
 Obwohl Großsprachmodelle bemerkenswerte Fähigkeiten im Zero-Shot-Setting demonstrieren, weisen sie dennoch bei komplexeren Aufgaben Schwächen auf, wenn sie im Zero-Shot-Modus verwendet werden. Few-Shot Prompting kann als Technik eingesetzt werden, um das Lernen im Kontext zu ermöglichen, indem wir Demonstrationen im Prompt bereitstellen, um das Modell zu einer besseren Leistung zu lenken. Die Demonstrationen dienen als Konditionierung für nachfolgende Beispiele, bei denen wir möchten, dass das Modell eine Antwort generiert.
 
 Gemäß [Touvron et al. 2023](https://arxiv.org/pdf/2302.13971.pdf) traten Few-Shot-Eigenschaften zum ersten Mal auf, als die Modelle auf eine ausreichende Größe skaliert wurden [(Kaplan et al., 2020)](https://arxiv.org/abs/2001.08361).