Mòdul 2

Prompt engineering i context engineering


Abans de construir un RAG, que és car i complex, cal saber exprimir un prompt i decidir quina informació val la pena enviar al model.

Temps de lectura: 2 min

Prompt engineering

El prompt engineering és l'ofici de redactar les instruccions perquè el model faci la tasca de manera fiable: definir el rol, l'objectiu, les restriccions, el format de sortida i, si cal, afegir-hi exemples. Un bon prompt s'assembla més a un encàrrec ben escrit per a un col·laborador nou que a una fórmula màgica.

Les pràctiques que més rendeixen són poc sofisticades: ser específic, explicar el perquè de cada regla, separar clarament les instruccions de les dades (per exemple, amb etiquetes o delimitadors) i demanar una sortida estructurada que el codi pugui validar. I, sobretot, tractar els prompts com a codi: versionats i provats amb casos reals abans de canviar-los.

Context engineering

El context engineering és decidir què entra a la finestra de context en cada crida, i en quin ordre: quines instruccions, quins documents, quina part de l'historial i quines dades de l'aplicació. Si el prompt engineering és com demanes la tasca, el context engineering és amb quina informació el model la resol.

El context és un recurs escàs: cada token costa diners i temps, i la informació irrellevant distreu el model. Les tècniques habituals són seleccionar només el que és rellevant, resumir l'historial llarg, retallar el soroll (peus de correu, avisos legals) i construir el context dinàmicament segons el cas. Per exemple, per a un client nou, la política general; per a un client habitual amb una incidència oberta, el seu historial recent.

Fine-tuning, prompt engineering o RAG

Són tres maneres d'adaptar un model al teu cas. El prompt engineering canvia les instruccions. El RAG li dona informació externa en el moment de la consulta. El fine-tuning el reentrena amb exemples propis perquè canviï el seu comportament de base.

L'ordre raonable és aquest: primer prompt engineering, que és barat i immediat; després RAG, quan el problema és que el model no té la informació; i fine-tuning només quan necessites un estil o un format molt específic de manera consistent i ja has esgotat les altres vies. El fine-tuning no és una bona manera d'ensenyar-li dades que canvien: per a això hi ha el RAG.

Examina't d'aquest mòdul

Copia aquest prompt i enganxa'l a la teva IA (ChatGPT, Claude, Gemini…). Et farà un test de 20 preguntes sobre els conceptes del mòdul i després et proposarà un exercici pràctic.

Actua com a examinador de la «Guia d'Enginyeria IA» de Dani Pérez. Examina'm del mòdul «Prompt engineering i context engineering» (https://daniperez.cat/resources/ai-engineering-guide/prompt-and-context-engineering).

Conceptes que entren a l'examen:
- Prompt engineering
- Context engineering
- Fine-tuning, prompt engineering o RAG

Examen:
1. 20 preguntes tipus test, cadascuna amb 4 opcions (a, b, c, d) i una sola resposta correcta.
2. Pregunta sobre comprensió i criteri (per a què serveix cada cosa i quan NO fer-la servir), no sobre memoritzar definicions.
3. Reparteix la posició de la resposta correcta de manera equilibrada entre a, b, c i d.
4. Fes-me les preguntes en 4 tandes de 5. No posis cap exemple de resposta (com "1a 2b 3c 4d 5a"): jo ja sé que he de respondre amb les lletres. No em diguis si he encertat fins que hagi respost les 20.
5. Al final, corregeix-les totes: per a cada pregunta, la meva resposta, la correcta i una explicació breu. Dona'm la nota sobre 20 i digues quins conceptes he de repassar.

Exercici pràctic (després de la correcció):
6. Pregunta'm quina aplicació tinc o vull construir, i amb quin llenguatge i framework treballo. Si no en tinc cap, fes servir aquesta: l'aplicació d'atenció al client d'una botiga en línia, amb tiquets, clients, comandes i una base de coneixement (FAQ i polítiques de devolució). En aquest cas, centra l'exercici en: redactar un esborrany de resposta a un tiquet construint el context segons el tipus de client (nou, habitual o enfadat).
7. Proposa'm un exercici que apliqui els conceptes d'aquest mòdul a aquella aplicació: objectiu, requisits, criteris per donar-lo per bo i errors habituals a evitar.
8. No me'l resolguis. Quan et porti la meva solució, revisa-la amb aquests criteris.