Glosārijs

4D ietvars

Anthropic 4D ietvars apraksta četrus principus, kas palīdz efektīvi un atbildīgi strādāt ar mākslīgo intelektu. Katra no četrām “D” burta vārdiem apzīmē svarīgu darbības posmu.

1. Deleģēšana (Delegation): Pārdomāti izvēlēties, ko darīt ar MI palīdzību un ko pašam
2. Skaidrojums (Description): Skaidri un precīzi komunicēt ar MI sistēmām
3. Izvērtēšana (Discernment): Kritiski novērtēt MI sniegtos rezultātus
4. Rūpība (Diligence): Atbildīgi un ētiski izmantot mākslīgo intelektu

4D ietvars palīdz izmantot mākslīgo intelektu kā efektīvu instrumentu, vienlaikus saglabājot kritisko domāšanu un ētisku atbildību.

Saite: https://anthropic.skilljar.com/ai-fluency-framework-foundations

Aizspriedumi (Bias)

Netaisnīgi aizspriedumi vai tendences, ko MI sistēmas var attīstīt, pamatojoties uz nelīdzsvarotību vai problēmām informācijā, ar kuru tās tika apmācītas.

Apmācības dati (Training Data)

Liela teksta, attēlu vai citas informācijas kolekcija, no kuras MI sistēmas mācās, lai saprastu modeļus un radītu atbildes.

Autonoms aģents (Agency)

Mākslīgā intelekta sistēmu spēja darboties patstāvīgi un pieņemt lēmumus bez tiešas cilvēka kontroles katrā darbībā.

Domāšanas režīms (Reasoning Mode jeb Thinking Mode)

Domāšanas režīms, jeb argumentācijas režīms ir funkcija, kurā MI parāda savu pakāpenisko domāšanas procesu pirms atbildes sniegšanas, līdzīgi kā matemātikas uzdevumos tiek parādīta risinājuma gaita.

Halucinācija (Hallucination)

MI pārliecinoši pasniegta nepatiesa informācija vai izdomāti fakti, kas izklausās ticami, bet patiesībā ir nepareizi.

MI asistents (AI Assistant)

Programmatūra, kas izmanto mākslīgo intelektu, lai palīdzētu cilvēkiem veikt uzdevumus, atbildēt uz jautājumiem vai sniegt informāciju sarunu veidā.

MI čatbots (AI Chatbot)

MI čatbots (tērzēšanas robots) ir datorprogramma, kas imitē cilvēku sarunu un var sazināties ar lietotājiem, izmantojot teksta vai balss ziņojumus.

Konteksta logs (Context Window)

Informācijas apjoms, ko MI var “atcerēties” un apsvērt vienlaikus sarunas laikā, līdzīgi cilvēka īslaicīgajai atmiņai.

Lielie valodas modeļi (Large Language Models – LLM)

MI sistēmas, kas apmācītas ar milzīgu teksta apjomu un kas var saprast un radīt cilvēkiem līdzīgu valodu dažādu uzdevumu veikšanai.

MI darba drazas (AI Workslop)

Žargonā apzīmē MI radītu paviršu, garlaicīgu vai bezmērķīgu darbu, kura labošana ir tik laikietilpīga, ka traucē veikt patiesi svarīgus uzdevumus.

MI interneta drazas (AI Internet slop)

Žargonā apzīmē MI masveidā ģenerētu, zemas kvalitātes saturu, kas piesārņo internetu. Tas ietver šabloniskus rakstus, bezjēdzīgus komentārus un dīvainus attēlus, kuru vienīgais mērķis ir piesaistīt algoritmu uzmanību un klikšķus, nesniedzot nekādu vērtību cilvēkam.

MI modelis (AI Model)

Sistēma, kas ir apguvusi modeļus no milzīga informācijas apjoma un izmanto šīs zināšanas, lai saprastu jautājumus un radītu atbildes.

Multimodāls MI (Multimodal AI)

MI sistēmas, kas var saprast un strādāt ar vairākiem satura veidiem, piemēram, tekstu, attēliem un audio, vienlaikus.

Sociālā inženierija (Social Engineering)

Manipulatīvas metodes, kas tiek izmantotas, lai pieviltu cilvēkus atklāt konfidenciālu informāciju vai veikt darbības, kas apdraud drošību.

Temperatūra (Temperature)

Iestatījums, kas kontrolē, cik radošas vai paredzamas būs MI atbildes, ar augstākām vērtībām radot daudzveidīgākus un pārsteidzošākus rezultātus.

Uzvedne (Prompt)

Uzvedne / Aicinājums – Instrukcija vai jautājums, ko sniedzat MI sistēmai, lai norādītu, ko vēlaties, lai tā izdara vai izveido.

Uzvednes ielaušanās (Prompt Injection)

Paņēmiens, kurā kāds mēģina piekrāpt MI sistēmu, lai tā pārkāptu savus drošības noteikumus vai uzvestos neparedzētā veidā, ievietojot slēptas komandas savā ziņojumā.

Vienība (Token)

Neliels teksta fragments (piemēram, vārds vai vārda daļa), ko MI sistēmas izmanto kā pamata vienību valodas sapratnei un radīšanai.

Zināšanu slieksnis (Knowledge cutoff)

MI modeļi mācās no datiem līdz konkrētam datumam; ja modelis tika apmācīts līdz 2024. gada janvārim, tas “nezina” neko par notikumiem, kas risinājās 2024. gada vasarā. Lai to kompensētu, mūsdienīgi MI asistenti spēj pieslēgties internetam, atrast aktuālo informāciju un nodot to modelim apstrādei.