İleri düzey istem teknikleri

Few-shot örnekler, kontrol edilebilen adım adım akıl yürütme, tablo ve JSON biçiminde yapılandırılmış çıktı, kısıtlar, kontrol listeleri, öz denetim ve yeniden kullanılabilir şablonlar; ayrıca hiçbir istemin yardım edemediği durumlar.

  • Orta
  • 20 dk
  • 12 soru
  • Ders 5 / 16

Bu derste öğreneceklerin

  • Örnekleri biçimi sabitleyen ve zor durumları kapsayan few-shot istemler yazmak
  • Adım adım çözüm istemek ve her adımı kendin kontrol etmek
  • Net bir şemayla yapılandırılmış çıktı (tablo, JSON) almak ve doğrulamak
  • Yaygın hata türlerini ve yalnızca istemle çözülemeyen görevleri tanımak

Aysel, okulunun çevrim içi gazetesinin editörü. Her hafta okurlardan yaklaşık 60 mesaj geliyor ve o, bu mesajları kategorilere ayırmak için bir yapay zekâ asistanı kullanıyor. Basit bir istemle sonuçlar haftadan haftaya değişiyor: model bazen yeni bir kategori uyduruyor, bazen tek kelime yerine uzun açıklamalar yazıyor ve biçim her seferinde farklı oluyor. “İyi istem (prompt) yazmak” dersinde bir istemin beş yapı taşını öğrendin. Bu derste cevapları güvenilir, tekrarlanabilir ve kolay kontrol edilir hâle getiren teknikleri öğreneceksin.

Few-shot: örneklerle öğretmek

Few-shot istem (birkaç örnekli istem)Tanım

Yeni görevden önce birkaç çözülmüş örnek (girdi ve istenen çıktı) içeren istem. Model bu örüntüyü sürdürür. Örneksiz isteme zero-shot, tek örnekli isteme one-shot denir.

Örnekler işe yarar çünkü dil modeli örüntüleri sürdürür: üç satır “mesaj → kategori” gibi görünüyorsa en olası sonraki satır da aynı kalıba uyar. İyi bir örnek, biçimi bir paragraf talimattan daha iyi sabitler. Ama örnekler başka bir açıdan da güçlü birer sinyaldir: model onlardaki her şeyi, rastlantısal özellikler dâhil, kopyalar.

  • 2–5 örnek genellikle yeterlidir: daha fazla örnek daha çok token tutar ve basit bir görevde nadiren işe yarar.
  • Çeşitli olsunlar. Farklı durumları, zor bir durum da dâhil (iki konuyu karıştıran bir mesaj), göster.
  • Cevapları dengele. Bütün örneklerin etiketi aynıysa model o etikete yönelir.
  • Her örnekte aynı biçimi koru ve istemi yeni girdiyle, aynı biçimde bitir.
  • Örneklerin doğruluğunu kontrol et: model hataları da iyi cevaplar kadar sadakatle kopyalar.

Zero-shot

Sort this reader message into a category:
"The pizza in the canteen was cold again."

Few-shot: üç örnek

Sort reader messages into ONE category:
canteen, events, sport, other.
Answer with the category only.

Message: "When does the chess club meet?"
Category: events

Message: "Our team lost 2:3, but what a match!"
Category: sport

Message: "Can the library stay open until 18:00?"
Category: other

Message: "The pizza in the canteen was cold again."
Category:
Örnekler kategori listesini, tek kelimelik cevabı ve biçimi sabitler. Son satır, modelin tamamlaması için açık bırakılmıştır.

Örneklerdeki sorunu bul

Problem

Aşağıdaki her few-shot istemde bir kusur var. Adını koy ve düzelt.
1) Dört örneğin hepsi “şikâyet” olarak etiketlenmiş.
2) İki örnek “Kategori: spor” diye, biri ise “Bu spor hakkında.” diye cevap veriyor.
3) Örneklerde yalnızca kısa ve net mesajlar var, gerçek mesajlar ise uzun ve konuları karıştırıyor.

Çözümü gösterÇözümü gizle

Çözüm

1) Etiketler dengesiz: model “şikâyet”e yönelecek. Farklı etiketli örnekler kullan.
2) Biçim tutarsız: model iki üsluptan biriyle cevap verebilir. Her örnekte tam olarak “Kategori: …” yaz.
3) Örnekler gerçek girdilere benzemiyor. Uzun ve karışık bir mesaj ekle ve hangi kategorinin ağır bastığını göster (örneğin ana isteğin kategorisi).

Okumaya devam etmek için ücretsiz kaydol

Dersin geri kalan bölümleri, test ve notlar Educora hesabıyla açılır. Kayıt bir dakika sürer; ilerlemen tüm cihazlarında saklanır.

Adım adım akıl yürütme ve kontrolü

Model cevabını token token yazar. Cevabı hemen istersen ilk tokenleri zaten sonucun kendisidir; henüz hiçbir işlem yazılmamıştır. Modelden önce adımları çözmesini istediğinde ara sonuçlar metinde görünür ve model onların üzerine kurabilir. Çok adımlı problemlerde (aritmetik, mantık, planlama) bu çoğu zaman hataları azaltır. Günümüz modellerinin çoğunda bunu kendiliğinden yapan yerleşik bir “düşünme” modu vardır; yine de adımları istemek faydalıdır, çünkü onları görebilir ve kontrol edebilirsin.

Yalnızca cevap

3 notebooks cost 1.20 manat each and 2 pens
cost 0.45 manat each. There is a 10% discount
on the total. How much do I pay? Answer only.

Adımlar, cevap, kontrol

3 notebooks cost 1.20 manat each and 2 pens
cost 0.45 manat each. There is a 10% discount
on the total. How much do I pay?

Work step by step, one calculation per line.
Then write the result on its own line as
"Answer: ... manat".
Finally, check the answer with a rough estimate.
Doğru çözüm: 3 × 1,20 = 3,60; 2 × 0,45 = 0,90; toplam 4,50; %10 indirim 0,45; ödenecek tutar 4,05 manat. Kaba kontrol: “4,5'ten biraz az”; tutuyor.

Modelin çözümünü kontrol et

Problem

Model şunu yazdı:
Adım 1: 3 × 1,20 = 3,60
Adım 2: 2 × 0,45 = 0,80
Adım 3: 3,60 + 0,80 = 4,40
Adım 4: 4,40'ın %10'u = 0,44; 4,40 − 0,44 = 3,96
Cevap: 3,96 manat
Hatayı ve doğru cevabı bul.

Çözümü gösterÇözümü gizle

Çözüm

Adım 2 yanlış: 2 × 0,45 = 0,90'dır, 0,80 değil. Sonraki bütün adımlar yanlış sayıyı kullandığı için hata yayıldı.
Doğrusu: 3,60 + 0,90 = 4,50; 4,50'nin %10'u = 0,45; 4,50 − 0,45 = 4,05 manat.
Çıkarılacak ders: adımlar cevabı doğru yapmadı ama hatayı bulmayı kolaylaştırdı.

Büyük görevi alt görevlere böl. “Bana sınavlar için bir tekrar planı hazırla” gibi tek bir istem; planlamayı, tahmini ve takvim oluşturmayı birbirine karıştırır. İşi bölüp her parçayı bir sonrakinden önce kontrol ettiğinde sonuç daha iyi olur: bir istemin çıktısı bir sonrakinin girdisi olur. Buna istem zinciri (prompt chaining) denir.

  1. Topla

    Modele müfredatındaki konu listesini ver ve bunları 4–6 bloğa ayırmasını iste. Gruplamayı kendin kontrol et.

  2. Tahmin et

    Her blok için tekrarın genellikle ne kadar sürdüğünü sor, sonra süreleri konuları senin ne kadar bildiğine göre ayarla.

  3. Takvim yap

    Yalnızca boş saatlerini (listele) kullanan 3 haftalık bir programı tablo olarak iste.

  4. Gözden geçir

    Modelden programı senin kurallarına göre (günde en fazla 2 saat, haftada bir dinlenme günü) kontrol etmesini ve her sorunu listelemesini iste.

Yapılandırılmış çıktı: tablolar ve JSON

Cevabı insanlar okuyacaksa en anlaşılır biçim çoğu zaman tablodur: hangi sütunları hangi sırayla istediğini ve bir satırın neye karşılık geldiğini söyle. Cevabı bir program okuyacaksa (örneğin Aysel'in 60 kategorisini bir elektronik tabloya kaydetmek için) JSON iste.

JSONTanım

Veriler için basit bir metin biçimi. Nesne süslü parantez içinde “anahtar”: değer çiftleri olarak, liste ise köşeli parantez içinde yazılır: {"title": "Cold pizza", "urgent": false}. Neredeyse bütün programlama dilleri onu okuyabilir.

  • tam şema: alan adları, türleri (metin, sayı, true/false) ve izin verilen değerler;
  • doğru bir nesne örneği;
  • bilgi eksik olduğunda ne yapılacağı (örneğin null, asla tahmin değil);
  • yalnızca JSON döndürme talimatı; öncesinde ve sonrasında hiçbir metin olmadan.

Biçim yok

Give me information about
the messages from our readers.

Şema, örnek, eksik değer kuralı

For the messages below, return ONLY a JSON list.
Each item must have exactly these fields:
  "title":    text, at most 5 words
  "category": one of "canteen", "events",
              "sport", "other"
  "urgent":   true or false
If a value is unclear, use null. Do not guess.

Example item:
{"title": "Cold pizza", "category": "canteen",
 "urgent": false}

Messages:
###
[paste the messages here]
###
Ayraçlar (###) mesajları talimatlardan ayırır; şema ise bir programın cevabı otomatik okumasını sağlar.

Kusursuz bir istemle bile sonucu kullanmadan önce kontrol et: model JSON'dan önce bir cümle ekleyebilir, bir alanı unutabilir ya da kategori uydurabilir. Birçok yapay zekâ hizmeti, cevabı bir şemaya uymaya zorlayan özel bir JSON veya “yapılandırılmış çıktı” modu sunar; varsa onu kullan. Gerisini birkaç satır kod yakalar:

Python
import json

SCHEMA = {"title": str, "category": str, "urgent": bool}
CATEGORIES = {"canteen", "events", "sport", "other"}

def check(reply):
    try:
        data = json.loads(reply)
    except json.JSONDecodeError:
        return "not valid JSON"
    problems = [f"missing: {k}" for k in SCHEMA if k not in data]
    problems += [f"wrong type: {k}" for k, t in SCHEMA.items()
                 if k in data and not isinstance(data[k], t)]
    if data.get("category") not in CATEGORIES:
        problems.append(f"unknown category: {data.get('category')}")
    return problems or "OK"

print(check('{"title": "Cold pizza", "category": "canteen", "urgent": false}'))
print(check('{"title": "Cold pizza", "category": "food", "urgent": "no"}'))
print(check('{"title": "Chess club", "category": "events"}'))
print(check('Sure! Here is the JSON: {"title": "Cold pizza"}'))
Beklenen çıktı
OK
['wrong type: urgent', 'unknown category: food']
['missing: urgent']
not valid JSON
Program ilk cevabı kabul eder ve üç tipik hatayı yakalar: yanlış tür ile uydurulmuş kategori, eksik alan ve JSON'u bozan fazladan metin.

Kısıtlar, kontrol listeleri, öz denetim ve şablonlar

Rol ve hedef kitle farklı işler görür. Rol uzmanlığı ve tonu belirler (“Deneyimli bir kimya öğretmenisin”), hedef kitle ise seviyeyi (“7. sınıf öğrencisi için”, “uzman olmayan veliler için”). Yalnızca hedef kitleyi değiştir; aynı açıklama sadeleşir ya da derinleşir. Rol, modele sahip olmadığı bilgiyi vermez: “Sen bir doktorsun” yazmak tıbbi cevapları güvenilir yapmaz.

Kısıtlar ölçülebilir sınırlardır: “en fazla 120 kelime”, “tam olarak 3 örnek”, “yalnızca ### arasındaki metni kullan”, “marka adı verme”, “emin değilsen bilinmiyor yaz”. Kontrol edebildiğin bir kısıt, bir dilekten iyidir: “kısa” belirsizdir, “en fazla 120 kelime” değildir.

Öz denetim. Cevaptan sonra modele bir kontrol listesi ver ve kendi işini kontrol etmesini iste: “Cevabını şu kurallara göre kontrol et: … Çiğnenen her kuralı listele, sonra düzeltilmiş hâlini yaz.” Bu çoğu zaman bozuk biçimi, unutulmuş bir şartı veya bir hesap hatasını yakalar. Ama modelin bilmediği bilgileri yakalamaz: kendi uydurduğu bir tarihi kontrol eden model onu çoğu zaman “doğrular”. Bilgiler gerçek kaynaklarla kontrol edilir.

Kontrolsüz

Write 5 quiz questions about the water
cycle for grade 6.

Kontrol listesiyle öz denetim

Write 5 quiz questions about the water
cycle for grade 6.

Then check them against this list:
1. Each question has exactly one correct answer.
2. No word is too hard for a grade 6 student.
3. Together the questions cover evaporation,
   condensation, precipitation and collection.
List every problem you find, then give the
corrected questions.
Kontrol listesindeki her madde denetlenebilir. Sonra aynı listeyle cevabı kendin de kontrol et.

Şablonlar. Bir istem işe yaradığında onu yer tutucularla kaydet ve yeniden kullan: “Sen bir {role}sın. {topic} konusunu {grade}. sınıf öğrencisine {count} maddede açıkla.” Öğretmenler, editörler ve programcılar bu tür şablonlardan kütüphaneler oluşturur; yer tutucuları bir program otomatik doldurabilir.

Etkileşimli

Simülasyon yükleniyor…
Bunu yeniden kullanılabilir bir şablona dönüştür: rolü koru; bağlam (sınıf, amaç), biçim (örneğin tablo veya 4 madde), ölçülebilir bir kısıt ve bir örnek ekle. Hiçbir şey hiçbir yere gönderilmez.

İstem yetmediğinde — ve mini proje

İyi istemler cevapları daha net ve tutarlı yapar; ama bazı sorunlar ifadeyle çözülmez:

  • Eksik bilgi. Model, bilgi kesim tarihinden sonraki olayları ve senin özel belgelerini bilmez. Ona belgeleri ver ya da bir arama aracı kullan (“RAG: belgelere dayalı cevaplar” dersine bak).
  • Çok sayıyla kesin hesaplama. Uzun toplamlar, istatistik ya da koca bir tablo için elektronik tablo veya kod kullan ya da kod çalıştırabilen bir model.
  • Garantili bilgiler. Hiçbir istem modeli her zaman haklı kılmaz; istemdeki “doğru ol” ifadesi hiçbir şeyi kontrol etmez.
  • Senin için bile net olmayan bir görev. İyi bir cevabın neye benzediğini söyleyemiyorsan model de söyleyemez.
  • Yüksek riskli kararlar. Tıbbi, hukuki ve mali kararlar ile notlar daha iyi bir istem değil, sorumluluk taşıyan bir insan gerektirir.

Mini proje: Aysel'in mesaj ayıklayıcısı

Problem

Okul gazetesi için okur mesajlarını ayıran güvenilir bir istem oluştur ve onu test et.

Çözümü gösterÇözümü gizle

Çözüm

1. Rol ve hedef kitle: “Bir okul gazetesinin editörleri için mesajları ayırıyorsun.”
2. Kurallar: 4 kategori (canteen, events, sport, other); iki konulu bir mesaj ana isteğin kategorisini alır; urgent = true yalnızca güvenlik sorunlarında veya 2 gün içinde dolan son tarihlerde.
3. Few-shot: farklı kategorilerden 4 örnek, biri karışık bir mesaj.
4. Çıktı: yalnızca title, category, urgent alanları olan bir JSON listesi; belirsizse null.
5. Test: istemi doğru kategorileri bilinen 10 eski mesajda çalıştır, JSON'u kodla doğrula ve hataları say.
6. İyileştirme: her hata için bir kural veya örnek ekle, sonra aynı 10 mesajda yeniden test et; değişikliğin işe yarayıp yaramadığını böyle görürsün. Bunu doğru ölçmenin yolu “Yapay zekâ çıktılarını değerlendirmek” dersinde.

Alıştırma

Yeniden kullanılabilir şablonu listedeki iki konu için doldur ve iki istemi yazdır. Rol “patient physics teacher”, 8. sınıf ve 4 maddeyle template.format(...) kullan.

Alıştırma · Python
template = ("You are a {role}. Explain {topic} to a grade {grade} student "
            "in {count} bullet points.")
topics = ["inertia", "friction"]
# print the filled template for every topic
Beklenen çıktı
You are a patient physics teacher. Explain inertia to a grade 8 student in 4 bullet points.
You are a patient physics teacher. Explain friction to a grade 8 student in 4 bullet points.

Unutma

  • Few-shot örnekler biçimi sabitler; çeşitli, dengeli, doğru ve aynı düzende olmalıdır.
  • Cevaptan önce adımları iste ve onları kendin kontrol et: akıcı bir akıl yürütme de yanlış olabilir.
  • Büyük görevleri küçük istemlerden oluşan bir zincire böl ve her sonucu bir sonraki adımdan önce kontrol et.
  • Yapılandırılmış çıktı için şema, örnek ve eksik değer kuralı ver, sonra sonucu doğrula.
  • Kontrol listesiyle öz denetim biçim hatalarını yakalar, bilinmeyen bilgileri değil.
  • İstem eksik bilgiyi eklemez ve bilgileri garanti etmez: belge ver, araç kullan, doğrula.
Bu derste bir hata ya da yanlışlık mı gördün?

Kendini test et

12 soru. Her doğru cevap XP kazandırır.

Soru 1 / 12

Soru 1 / 12. Few-shot istem nedir?