A Prompt Engineering a generatív AI-modelleknek adott utasítások és kontextus tudatos megtervezésének, tesztelésének és finomításának gyakorlata annak érdekében, hogy a modell a kívánt feladatot megbízhatóbban és megfelelő formában hajtsa végre. A prompt meghatározhatja többek között a feladatot, a szükséges kontextust, az elvárt kimenetet, a korlátozásokat és példákat.
A prompt lehet egy egyszerű kérdés, de összetettebb AI-rendszerekben ennél jóval strukturáltabb instrukció is. Meghatározhat például szerepet, feladatot, felhasználható adatokat, végrehajtási szabályokat vagy kimeneti formátumot. Példák megadásával – úgynevezett one-shot vagy few-shot promptinggal – azt is meg lehet mutatni a modellnek, milyen típusú eredmény az elvárt.
A Prompt Engineering nem ugyanaz, mint a modell fine-tuningja. Promptoláskor a már betanított modell viselkedését az adott bemenettel irányítjuk, a modell paraméterei nem változnak. Fine-tuning esetén ezzel szemben további tanítással módosítják a modell paramétereit egy meghatározott feladat vagy felhasználási terület érdekében.
A jó prompt nem feltétlenül hosszú vagy technikailag bonyolult. A szükséges részletesség a feladattól függ. Az Anthropic útmutatója például a világos és közvetlen instrukciókat, a releváns kontextust és a jól megválasztott példákat emeli ki a megbízhatóbb eredmények fontos eszközeiként.
Konkrét példa
Egy webshop ügyfélszolgálati AI-jának adott instrukció nem egyszerűen azt mondja, hogy „válaszolj a vásárlónak”. A prompt meghatározhatja, hogy az AI kizárólag a rendelkezésére bocsátott termék- és rendelési információkra támaszkodjon, ne találjon ki hiányzó adatot, magyarul válaszoljon, és bizonytalan esetben jelezze, hogy emberi ügyintéző szükséges.
Ez már Prompt Engineering: a kívánt működés explicit szabályokká és kontextussá alakítása.
Miért fontos?
A generatív AI-rendszerek eredménye nemcsak a választott modellen, hanem a kapott instrukciókon és kontextuson is múlik. Egy jól megtervezett prompt javíthatja a kimenet relevanciáját, konzisztenciáját és formátumkövetését anélkül, hogy magát a modellt újra kellene tanítani.
Üzleti környezetben ezért a Prompt Engineering nem pusztán „jó kérdések írását” jelenti: része lehet egy reprodukálható AI-folyamat kialakításának, amelyben világosan meghatározott instrukciók alapján készül például tartalom, elemzés, termékadat-feldolgozás vagy ügyfélszolgálati válasz.
Kapcsolódó fogalmak
Large Language Model (LLM)
Few-shot Prompting
Prompt Chaining
Fine-tuning
AI Agent