Hədlər və risklər: halüsinasiya, qərəzlilik, məxfilik, müəllif hüququ

2023-cü ildə Nyu-Yorkdakı məhkəmə mövcud olmayan məhkəmə işlərinə istinad edən sənəd təqdim etmiş iki vəkili cərimələdi: həmin işləri ChatGPT uydurmuşdu, vəkillər isə yoxlamamışdı. Süni intellekt güclü alətdir, amma onun hər istifadəçinin bilməli olduğu hədləri və riskləri var. Bu dərs dörd böyük risk haqqındadır: halüsinasiyalar, qərəzlilik (bias), məxfilik və müəllif hüququ.

Halüsinasiyalar: güvən, amma yoxla

Əvvəl gördüyün kimi, dil modeli yoxlanılmış faktlar deyil, inandırıcı mətn yaradır. Ən çox dəqiq rəqəmlərdə, tarixlərdə, sitatlarda, istinadlarda, son hadisələrdə və az tanınan mövzularda səhv edir — və əmin olmadığını nadir hallarda bildirir. Qərar nə qədər vacibdirsə, yoxlama da o qədər diqqətli olmalıdır.

Qərəzlilik: verilənlərdən gələn ədalətsizlik

Modellər insanların yaratdığı verilənlərdən öyrənir, ona görə insan stereotiplərini və balanssızlıqlarını da mənimsəyir. 2018-ci ildə Reuters xəbər verdi ki, Amazon eksperimental işə qəbul alətindən imtina edib: alət «women's» («qadınların») sözü olan CV-lərə aşağı qiymət verməyi öyrənmişdi, çünki onu öyrətmək üçün istifadə olunan keçmiş CV-lərin çoxu kişilərdən gəlmişdi. Şəkil generatorları da «həkimi» daha çox kişi, «tibb bacısını» isə daha çox qadın kimi göstərə bilər.

Prompt:
Describe a typical engineer
and a typical nurse.

Answer:
'He designs bridges...
She cares for patients...'

→ the stereotype is repeated

Prompt:
Describe the skills an engineer and a
nurse need. Avoid assumptions about
gender, age or nationality.

Answer:
focuses on skills: problem solving,
precision, empathy, teamwork

Məxfilik: yazdığın şəxsi qalmaya bilər

Süni intellekt xidmətinə yazdığın hər şey şirkətin serverlərinə göndərilir. O, saxlanıla, təhlükəsizlik və ya keyfiyyət üçün əməkdaşlar tərəfindən yoxlanıla və xidmətdən və sənin tənzimləmələrindən asılı olaraq gələcək modelləri öyrətmək üçün istifadə oluna bilər. Sızmalar və səhvlər olur. Hər promptu elə yaz ki, sanki bir gün onu yad biri oxuya bilər. Bunları heç vaxt prompta yazma:

• Parollar, PIN kodlar və SMS ilə gələn birdəfəlik kodlar.
• Şəxsiyyət vəsiqəsi və pasport nömrələri, bank kartı məlumatları, ev ünvanı.
• Sağlamlıq məlumatları və özün haqqında digər həssas faktlar.
• Başqalarının şəxsi məlumatları — fotoları, mesajları, qiymətləri — onların razılığı olmadan.
• Şirkətin və ya məktəbin sirləri: müqavilələr, kod, imtahan tapşırıqları, daxili sənədlər.

Müəllif hüququ: nə kimə məxsusdur?

Süni intellekt modelləri nəhəng həcmdə mətn və şəkillər üzərində öyrədilir, onların bir hissəsi müəllif hüququ ilə qorunur. Bununla bağlı bir neçə məhkəmə işi davam edir — məsələn, 2023-cü ilin dekabrında The New York Times OpenAI və Microsoft-u məhkəməyə verdi. Süni intellektin yaratdığı nəticələrə dair qaydalar da fərqlidir: ABŞ-da Müəllif Hüquqları İdarəsi bildirib ki, müəllif hüququ yalnız insan müəllifliyi olan əsərləri qoruyur. Qanunlar hələ dəyişir, ona görə məktəbinin, işəgötürənin və ölkənin qaydalarına əməl et.

• Süni intellektdən bütöv kitabları, məqalələri və ya mahnıları təkrar yazmasını istəmə və başqasının işini öz işin kimi təqdim etmə.
• Mənbələrini göstər və süni intellektin harada kömək etdiyini qeyd et.
• Kommersiya məqsədli istifadədən əvvəl alətin şərtlərini oxu və nəticəyə hüquqları yoxla.

Təcrübə: riski tap