Миний тохиргоо🇺🇸 АНУ

Их Британи хиймэл оюун ухааны аюулгүй байдлыг чангатгана

Их Британи хиймэл оюун ухааны аюулгүй байдлыг чангатгаж, кибер хамгаалалтаа бэхжүүлнэ. Тус улсын хиймэл оюун ухааны сайд Канишка Нараян хамгийн дэвшилтэт хиймэл оюун ухааны систем бүтээж буй компаниудыг аюулгүй байдлын хүчин чармайлтаа нэмэгдүүлэхийг уриалав. Тэрээр Их Британи технологийн компаниудад бүрэн найдаж болохгүй бөгөөд өөрийн хиймэл оюун ухааны дэд бүтцийг илүү их хөгжүүлэх шаардлагатайг онцлов.

Нараяны Лондон хотод хийх энэхүү илтгэл нь Энди Бёрнхэм хиймэл оюун ухааны асуудлыг Засгийн газрын түвшинд авчирснаас хойших анхны илтгэл юм. Их Британийн Хиймэл оюун ухааны аюулгүй байдлын хүрээлэнгийн ерөнхий эрдэмтэн асан Жоффри Ирвинг дайсагнагч улсууд нууц хиймэл оюун ухааны загваруудыг хулгайлж болзошгүй хэмээн болгоомжилж буй үед энэ илтгэл тавигдаж байна. Ирвинг 'Хиймэл оюун ухааны компаниуд дайсагнагч улс загваруудыг хулгайлахаас сэргийлэх аюулгүй байдал хангалтгүй байна' гэж мэдэгджээ.

Тэрээр саяхан OpenAI-д кибер аюулгүй байдлын судлаачид 'хакердсан' хэргийг дурдаад, 'бидний онолын хувьд нэвтрэх боломжтой цар хүрээ асар том байсан' гэж хэлсэн байна. OpenAI компани загваруудаа хулгайлахаас хамгаалах олон хамгаалалттай, үүнд шифрлэлт, тасралтгүй хяналт багтдаг гэж мэдэгджээ. Ирвинг хүн төрөлхтнийг супер оюун ухаант хиймэл оюун ухаан устгах '50 хувийн магадлалтай' гэж анхааруулж, одоогоор цорын ганц шийдэл нь дэвшилтэт системийн хөгжлийг аль болох хурдан зогсоох явдал гэв.

Нараяны илтгэлийг Их Британи олон улсын засгийн газруудыг хиймэл оюун ухааны аюулгүй байдлын нэгдсэн стандартыг зохицуулах уриалгад нэгдэх эсэхийг харах үүднээс анхааралтай ажиглах болно. Энэ уриалгад Финланд, Франц, Герман, Австрали, Сингапур, АНЭУ, Ирланд зэрэг улсуудын удирдагчид гарын үсэг зурсан ч Их Британи, АНУ нэгдээгүй байна. АНУ-д Дональд Трамп тэргүүлэгч хиймэл оюун ухааны компаниудыг 'өөрсдөө хянах' ёстой гэж мэдэгдсэн юм.

Өнгөрсөн долоо хоногт Их Британийн тагнуулын байгууллагууд MI5, MI6, GCHQ-ийн удирдагчид Засгийн газарт хиймэл оюун ухааны үндэсний аюулгүй байдалд учруулах аюулын талаар мэдээлэл өгсөн байна. Ерөнхий сайд өнгөрсөн сард НҮБ-д хэлэхдээ, Их Британи ирэх жил G20-ийн ерөнхийлөгчийн үүргээ гүйцэтгэхдээ хиймэл оюун ухааны аюулгүй байдлын талаар 'нэгдсэн дэлхийн зарчим, стандарт'-ыг батлахыг дэмжинэ гэжээ. Гэвч аюулгүй байдлын шинжээчид хамгийн ноцтой эрсдэлээс урьдчилан сэргийлэхийн тулд илүү хурдан арга хэмжээ авахыг уриалж байна.

Үүний зэрэгцээ, хиймэл оюун ухааны дэд бүтцийг ажиллуулдаг, OpenAI-ийн хувьцаа эзэмшигч Microsoft компанийн гүйцэтгэх захирал Сатя Наделла хиймэл оюун ухааны загваруудыг 'яаралтай тоормостой' байхаар зохион бүтээхийг уриалав. Тэрээр 'Бид супер оюун ухааныг үүрлэсэн хар хайрцаг мэт үзэж, зөвхөн түүний зөвлөмж, хариулт, үйлдлийг хүлээн зөвшөөрөх эсвэл үгүйсгэх ёсгүй. Бид түүний зан үйлийг ажиглаж, хязгаарыг нь шалгаж, үйлдлийг нь үргэлж хянаж чадах системүүдийг бүтээх ёстой' гэж бичжээ.

The Guardian UKThe Guardian UK · Эх сурвалж