[degrass]

[rex]

[perenoel]

rex, AI toodang ei ole nii perfektne midagi. Ma võtsin isegi Grammarly Premiumi endale jälle tagasi, sest ka GPT-4 teeb vigu - pean silmas mitte sisulisi, vaid keelelisi. Võibolla suudab ta suhteliselt veatult hakkama saada, kui lisatingimusi mitte seada stiili osas. Siis on aga kõigil AI detektoritel punane lipp kohe püsti. Stiili lisandumisel hakkavad aga absurdsed vead tekkima. Küsid, et kuidas siit siis nüüd artikkel eest puudu on - oi, väga vabandan, peab jah olema hoopis sedasi. Ega ma kolmelise koolipoisi stiili palunud, et selline tekst.

[maty]

[perenoel]

maty, Samas ei tea me, misssugusel tasemel töötavad analoogsed detektorid Google või Amazoni süsteemis.

[degrass]

Nature kirjutab: Champion-level drone racing using deep reinforcement learning
https://www.nature.com/articles/s41586-023-06419-4

[perenoel]

degrass, See ei ole minu meelest üllatav, sest inimesel polegi midagi niisuguses olukorras masinale vastu panna. Seepärast on ka isesõitev auto ilmselgelt lähitulevik ja võib arvata, et juba kümne aasta pärast on juba olemas piirkonnad, kuhu (ainult) inimjuhiga auto, kui oluliselt ebaturvalisem sõiduk, sõita ei tohi. Inimene lihtsalt ei ole võimeline reaalajas pidevalt jälgima 360-kraadist ümbrust ning seejuures veel tegema momentaalseid reageeringuid ükskõik mis suunalt tuleva ohu osas.

[rex]

[perenoel]

Tegin just oma Grammarly sätingutes muudatusi, lülitades terve rea uuema aja sätinguid välja:
Use gender-neutral generic pronouns. (sõnad his ja her on määratud unustusse, selle asemel their)
Avoid biased language (gender) (sõnad nagu "mankind" on määratud mahakandmisele, asenduseks "humanity")
Avoid biased language (human rights) (sõnad nagu "slave" prügikasti, asenduseks "enslaved people.")
Avoid biased language (human rights-related) (master bedroom asemel main bedroom)
Avoid politically incorrect language
Rassid jmt pühad asjad jätsin ikkagi alles, sest ega ma ei taha, et mind päris ära ka pärismaalaste poolt söödaks. Parem, kui Grammarly juba säherduste vääratuste korral punast lippu näitab.


EDIT: Avastasin uuenduse: Custom instructionites annab seadistada stiili, kuidas kasutaja soovib, et GPT temaga suhtleb. Võib enda kohta infot anda, samuti seda, kuidas peaks GPT suhtlema. Näiteks võib talle anda ette, millises pikkuses vastuseid soovid, kui formaalne ta peaks olema jne. Panin sinna, et minusse võib suhtuda kui krahvi (earl), ning GPT nüüd pöördub mingi palve peale sääraselt: certainly, my Lord.

[rex]

Ülimultitaskiv masin jõuab samal ajal väljundit andmata ka multikordselt irvitada, et lord my ass...

[perenoel]

AI foobia on Amazoni jõudnud - raamatut üles laadides tuleb anda vastus, kas projekt sisaldab AI tööd. Seejuures tehakse vahet AI loodud materjalil ja AI-ga töödeldul, kusjuures esimene jääb seda selleks ka siis, kui inimoperaator on algselt AI loodud teksti või pilti oluliselt töödelnud. Ilmselt ei soovi nad seda niisama statistilisest huvist teada saada, vaid sellel on otsene mõju orgaanilistele otsingutulemustele. Ehk siis, AI loodud materjalid soovitakse jätta huvilistele esitlemata, mis omakorda tähendab, et asjaolust neile teada andes pole mõtet AI loomingut müüa katsudagi. Kuivõrd müüjad hakkavad AI asjaolu arvatavalt seetõtttu varjama, oleks Amazoni järgmiseks loogiliseks sammuks mingisugune sanktsioon nende suhtes, kes pole AI-st teada andnud, kuid kelle materjali paljastab mingisugune detektor. Siin on aga suur võimalus igasuguseks segaduseks, alates false positiv'ist, kuni näiteks selleni, et autor tellib kaanekujunduse Fiverrist ja pole üldse teadlikki, et sealne töö teostaja ei teinud muud, kui kirjutas ainult prompti.

[rex]

Kaevasin täna Orwellist mingit tsitaati ja sattusin millelegi, mida ei otsinudki:

1949 ilmunud originaaltekst...

[napoleon]

[perenoel]

napoleon, Sellega on nii ja naa. Kui Rowlingu agent soovitas, et tema eesnimi raamatu kaanele ei jõuaks, sest siis poisid naisterahva kirjutatud raamatut ei loeks oleks ka võinud kõik ise otsustada, kas tahavad lugeda või mitte. Võibolla ei ole vaja inimeste eelarvamusi toita - eeldusel muidugi, et asja kvaliteet on tagatud?
Pealegi, põhimure on ikkagi Amazoni algoritmis, mis ilmselt hakkab AI toodetut lükkama kuhugi tagumisse otsa, võibolla vaatamata nende saavutatud müügireitingule.

[napoleon]

perenoel, ütleme et üritan sulle müüa näiteks kampsuni. Ütleme 150€ eest ja väidan, et vanaema ise kasvatas lambad, pügas neid, ketras villa lõngaks ja oma valgete kätega kudus kampsuni. Pärast saad teada, et ostsin selle ise 10€ eest ja tegemist on tööstustoodanguga. Kui sellest teada saad, siis võin ju enda õigustuseks öelda, et kampsun on ju soe ja ega see tööstustoodang polegi kehvem kui käsitöö, aga ilmselt sa sellega siiski rahul poleks kuna oleks võinud selle kampsuni ju ise maximast kümneka eest osta.

[perenoel]

napoleon, Ühe või teisel moel valmides vajab raamat tööd. GPT-ga tekivad oma probleemid. Näiteks, kuivõrd korraga töödeldav tekstimaht on piiratud, siis juppidesse jagatud töö korral hakkavad ilmuma ülearused kordused, mis tuleb kõik välja rtookida. Ilma selleta on pärast lugemiskogemus nagu peaga vastu seina jooksmine: tuima näoga räägitakse asja ikka uuesti ja uuesti veidi muudetud sõnastuses üle. Peale toimetamist on aga saavutatav päris hea tulemus.
Veelgi enam tööd vajab raamatu valmimine tavameetodil: teksti tuleb ikka üle ja üle poleerida, palgata keeletoimetaja, proofreader jne. Arusaadavate põhjustel jätavad paljud selle kõik iseavaldatu puhul ära ja tulemus on (toimetatud) AI toodangust oluliselt kehvem. Ei mingit vanaema kvaliteeti, mille eest kümnekordset hinda küsida.

[rex]

[perenoel]

[XeStAiSy]

Mis siis teete kui telemeetria andmetele AI ligi saab? Microsoftil on aasta kümneid kogutud data ja sellest pureb läbi ainult AI. Tõesti mõtlete ,et kõik maailmas safu.

[Betamax]

Mis see safu on?

[XeStAiSy]

[woox2k]

Midagi päriselt teemasse ka: https://arstechnica.com/information-technology/2023/09/telling-ai-model-to-take-a-deep-breath-causes-math-scores-to-soar-in-study/
Ühesõnaga sisendi toonil ja tulemusel on otsene seos. Mitte, et see nüüd eriti üllatav oleks aga päris paljude arvates pole vahet kuidas AI'ga suhelda ja tulemused on alati samad.
Ilmselgelt treeninguandmetest lähtuvalt seostatakse "paremini" vormistatud küsimusi paremate vastustega, sest päriselus nii ongi asi käinud. Käskivale kõneviisile kuskilt foorumist head vastust tihti ei saa ja neid andmeid kasutatigi AI treenimiseks.

Hetkest, kui ChatGPT avalikuks tuli ja natuke uurisin kuidas need laiatarbe AI'd töötavad ja mis andmetega treenitud on, hakkas ennast natuke hirmutama fakt, et kogu sisendil on otsene seos vastusega! Mitte ainult sisendi toon vaid ka üldine sõnastus. Kui kasutaja on vähem haritud ja väiksema sõnavaraga siis ei pruugigi ta saada AI'lt nii häid vastuseid kui kõrgelt haritud kasutaja kes oskab sisendit paremini sõnastada. Selliselt treenitud AI ei hakka järsku harimata inimesi tõstma samale tamele haritud inimestega vaid võimendab nende vahet! Harimata inimeste poolt on internetti igasugu jahu genereeritud ja sarnase sõnastusega sisendeid AI'le ette andes saab ka selle jahu vastuseks, mis omakorda koolitab välja uusi "jahupäid"!

[XeStAiSy]

Ma annaks 10 punkti sellele. Tegelikult peabki jahu ajama ,et AI internetis piisvalt targaks saaks, siis tuleks ehk inimestele aru pähe.

[degrass]

[Prillpapa]

See viib selleni, võib olla huvi arendada välja AI, mis toodaks süsteemselt valeinfot, et selle valeinfo pinnalt teisi õppivadi AI-sid kahjustada.
Samas "valeinfo" on ise juba piisavalt kummist väljend, kui keegi leiab augu kuidas omale sobivat reklaami otsingumootoritele ette sööta või erinevatel kodulehtedel kuvada - on see ühtepidi infoga manipuleerimine, sest infotarbija ei saa enam tõest infot vaid kallutatud infot.
Info kallutatus võib olla jällegi motiveeritud rahalisest kasust aga ka poliitilised motiivid (nt riikide strateegiline kommunikatsioon, tung levitada oma narratiive).