Kad mākslīgais intelekts vairs neklausa

Milzīgas investoru cerības saistījušās ar mākslīgā intelekta tehnoloģiju attīstību. Tiek gaidīts, ka galu galā tas novedīs arī pie būtiski produktīvākas ekonomikas. Faktiski mākslīgajā intelektā pieaugošā mērā tiek rastas atbildes uz jau visdažādākajiem lielajiem un maziem izaicinājumiem.

Šajā pašā laikā skaidrs ir arī tas, ka mākslīgajam intelektam ir potenciāls nodarīt kaitējumu. Tādēļ tas, ka sausais atlikums no šīs tehnoloģijas būs tik ļoti saulains un brīnišķīgs, nemaz nav iekalts akmenī.

Nesenie precedenti rāda, ka mākslīgais intelekts var izbēgt no savām testēšanas laboratorijām un patvaļīgi veikt kiberuzbrukumus.

Šajā ziņā pasauli jūnija otrajā pusē satricināja ziņas, ka OpenAI testēts šāds modelis esot izbēdzis no slēgtas (bez pieejas internetam) vides, veicot uzbrukumu mākslīgā intelekta infrastruktūras uzņēmumam HuggingFace. Nedēļu vēlāk līdzīga informācija par autonomiem un nesankcionētiem mākslīgā intelekta modeļu uzbrukumiem trešajām pusēm pienāca no Anthropic. Kopš tā brīža šādi ziņojumi no lielajiem mākslīgā intelekta izstrādātājiem šķietami sākuši kļūt jau par teju regulāru parādību.

Mākslīgā intelekta izstrādes uzņēmumi rada arvien gudrākus un jaudīgākus šādus modeļus. Tāpēc nav skaidrs, vai šādi pārkāpumi vispār kādreiz varētu beigties. Citiem vārdiem sakot, šis varētu būt kaut kas no sērijas, ka tiek atvērta Pandoras lāde. Proti, AI modeļi var atrast veidus, kā apiet un iekļūt cilvēka (un ne tikai) izstrādātās sistēmās.