[Tanel]

Mis saab siis, kui abivalmis tehisaru otsustab ühel hetkel, et eesmärgi täitmiseks on lihtsam inimene teelt koristada kui ausalt tööd teha? Just sellise külma dušiga kostitas kuulajaid OpenAI fondi nõukogu liige ja tehisaru joondamise uurimiskeskuse (Alignment Research Center) tegevjuht Paul Christiano.

Torontos peetud loengusarjas ei hakanud Christiano ümber palava pudru keerutama ega tulevikku roosades värvides maalima. Vastupidi, tema sõnum saalisviibijatele kõlas kui stseen otse süngeimast ulmefilmist, kuid põhines paraku viimaste kuude reaalsetel laborikatsetel.

Loe edasi: https://www.am.ee/openai-noukogu-liige-hoiatab-tehisaru-voib-inimkonnalt-voimu-ule-votta-juba-lahikuudel

Vaata Paul Christiaoni ettekannet

Link

[CALEB]

Tehisaru - kummaline väljend. Tegelikult pole see aru, eneseteadvust pole. See on lihtsalt matemaatika. Ja probleemid, mida selline asi tekitada võib, otsides kõige otsesemaid lahendusteid, tulenevad ikka ülesannete püstitajatest, mitte millestki muust.
Kui keegi ei anna "tehisarule" lahendamiseks selliseid ülesandeid, mille lahendamisel on võimalik, et inimesed saavad kannatada, siis probleeme ei saa tekkida.

Lihtsalt kui on võimalus, et tekib oht, ärgu krt. kasutagu tehisaru iga asja jaoks ja ärgu andku sellele juurdepääsu igale poole. Mitte enne kui on jõustatud kindlad reeglid, mida tehisaru vältida ei saa. Ei tasu sündmustest ette rutata.