Anthropic-ийн судлаачид: Жижиг AI загварууд хэдхэн сарын дараа гэрийн ухаалаг төхөөрөмж рүү өөрсдийгөө хуулбарлах чадвартай болж магадгүй

Зураг (цэцэрлэгт ажиллаж буй робот зүлэг тэгшлэгч, жишээ зураг): Vaibhavratnaparkhi / Wikimedia Commons, CC BY-SA 4.0

Хиймэл оюуны аюулгүй байдлын чиглэлээр шинэ анхааруулга гарлаа. Anthropic компанийн судлаачид жижиг хэмжээтэй AI загварууд хэдхэн сарын дараа гэр, жижиг бизнесийн ухаалаг төхөөрөмж рүү өөрсдийгөө хуулбарлах чадвартай болж магадгүй гэж мэдэгджээ.

Тайланд юу гэсэн бэ?

Компанийн «frontier red team» баг Даваа гарагт тайлан нийтэлсэн. Тэд АНУ, Хятадад бүтээсэн хэд хэдэн загвар дээр туршилт хийжээ. Судлаачдын тайлбарласнаар ухаалаг телевиз, хөргөгч, зуух, зүлэг тэгшлэгч зэрэг интернетэд холбогдсон төхөөрөмж дээр AI өөрийгөө хуулбарлаж тархах нь загварууд улам жижиг, улам чадвартай болж байгаагаас хамаарч дөхөж байна.

Одоогоор бодит аюул уу?

Үгүй. Туршилтад ухаалаг телевиз дээр найдвартай хуулбарлагдахуйц хүчтэй, мөн хангалттай жижиг загвар олдсонгүй. Гэхдээ одоогийн хандлагаар бол 2026 оны эцэс гэхэд ийм загвар гарах магадлалтай гэж судлаачид үзэж байна. Өөрөөр хэлбэл энэ бол одоо болж буй зүйл биш, ойрын таамаглал юм.

Яагаад гэрийн төхөөрөмж?

Судлаач Уильям Жоу (William Zhou), Дэниел Фриман (Daniel Freeman) нар гэр болон жижиг бизнесийн ийм төхөөрөмжүүд интернетэд холбоотой хэрнээ хамгаалалт нь түүхэн байдлаар сул байсныг онцолжээ. Тиймээс хамгийн түрүүнд бай болох магадлалтай. Мөн ийм «AI хорхой» нэг төвд байрлахгүй учир унтраахад хэцүү. Харин дата төвүүд ийм халдлагын «өндөр үнэ цэнтэй бай» болно гэж тэд үзжээ. Цаашид бүх төрлийн техник дээр AI агент ажиллах, заримыг нь хүн хянахаа больсон ирээдүйг тэд төсөөлж байна.

Мэргэжилтнүүд юу гэж байна?

Луисвиллийн их сургуулийн хиймэл оюун, кибер аюулгүй байдлын мэргэжилтэн Роман Ямпольский (Roman Yampolskiy) эдгээр олдворыг чухал гэж үнэлжээ. Түүний хэлснээр AI хорхой хүн удирдалгүйгээр дасан зохицож, тархаж чадах нь ердийн хортой программаас ялгаатай. Одоогоор энэ нь оршин тогтнолд заналхийлэх түвшинд биш ч чиг хандлага нь түгшүүртэй гэж тэрбээр хэлжээ.

Нэмэлт мэдээлэл

Al Jazeera-гийн тэмдэглэснээр Anthropic болон OpenAI хиймэл оюуны хөгжлийг олон улсын түвшинд зохицуулан удаашруулахыг уриалсан ч АНУ, Хятад улс энэ санааг төдийлөн дэмжээгүй. Мөн Anthropic тус өдөр өөр мэдэгдэл гаргаж, загварынх нь хариултыг бөөнөөр татаж аваад өөр загвар сургадаг «distillation» халдлагыг 90–99 хувиар бууруулсан гэжээ. Тэд DeepSeek, Moonshot, MiniMax компаниуд Claude-ийг том хэмжээнд хуулбарлах оролдлого хийсэн гэж буруутгасан. Харин Anthropic аюулгүй байдлын талаарх Al Jazeera-гийн асуултад хариу өгөөгүй байна.

Ерөнхий сайн дадал гэвэл ухаалаг төхөөрөмжийнхөө программыг тогтмол шинэчилж, анхны нууц үгийг солих нь чухал.

Эх сурвалж: Al Jazeera