Хиймэл оюун ухааны толгой
Антропик судлаач ажлаасаа гарч, лабораториуд супер оюун ухаан руу тэмүүлж байгаа тул хиймэл оюун ухаан арван жилийн эцэс гэхэд "биднийг бүгдийг нь алж болзошгүй" гэж анхааруулав

Дэлхийн хамгийн хүчирхэг хиймэл оюун ухааны хоёр лабораториос 27 настай судлаач гарч, энэ технологийг хөгжүүлж буй хүмүүс 2030 оноос өмнө хүн төрөлхтөн мөхөж болзошгүй гэж үздэг хэмээн мэдэгдлээ.

Жейкоб Коксон 2026 оны есдүгээр сарын 8-ны мягмар гарагт Anthropic дахь ажлаасаа гарснаа X платформд @hilbertspaess нэрээр нийтэлсэн олон хэсэгтэй нийтлэлээрээ зарлав. Түүний нийтлэл хэдхэн цагийн дотор хэдэн арван сая хандалт авч, Коксон Anthropic болон өмнө нь ажиллаж байсан OpenAI-г өөрийгөө сайжруулах чадвартай супероюун ухаан бүтээхийн төлөө "бидний амьдралаар дэнчин тавьж байна" хэмээн буруутгажээ.

Кембрижийн төгсөгч хиймэл оюун ухааны лабораториудаас нүүр буруулав

Кембрижийн их сургуулийг төгссөн Коксон сургалтын өмнөх судалгааны чиглэлээр гурван жил ажилласан байна. Тэрээр 2023 оноос 2026 оны долдугаар сар хүртэл OpenAI-д ажиллахдаа GPT-4o-г хөгжүүлсэн гол судлаачдын нэг байжээ. Үүний дараа Anthropic-д ажилласан байна.

"Би өнөөдөр Anthropic-оос гарлаа. Аль ч компани хариуцлагатай ажиллахгүй байна. Тэд өөрийгөө сайжруулах чадвартай супероюун ухаанд хүрэхээр уралдаж, бидний амьдралаар дэнчин тавьж байна" хэмээн тэр бичжээ.

Ойрын ирээдүйн системүүд "удахгүй аливаа зүйлийг хакердаж, аль ч салбарыг нэг шөнийн дотор хувьсган өөрчилж, бодит эрх мэдэл болон нөөцийг олж авах чадвартай, хүнээс давсан системүүд болно" гэж тэр анхааруулсан байна. Мөн "хөгжил удаашрахгүй байна" гэжээ.

Дотроо тээж явдаг бүрхэг төсөөлөл

Коксоны гол мэдэгдэл нь дэвшилтэт хиймэл оюун ухаан хөгжүүлж буй олон хүн сүйрлийн үр дагавраас дотроо эмээдэг ч улам чадварлаг системүүдийг бүтээсээр байна гэсэн санаанд төвлөрчээ. "Хиймэл оюун ухаан бүтээж буй хүмүүс энэ арван жил дуусахаас өмнө хиймэл оюун ухаан биднийг бүгдийг хөнөөж чадна гэдэгт чин сэтгэлээсээ итгэдэг" хэмээн тэр бичсэн байна.

Тэрээр өмнө нь ажиллаж байсан хоёр компанийн хооронд ялгаа бий гэжээ. OpenAI-д "олон хүн соёл иргэншлийн хувь заяатай холбоотой эрсдэлийг гүнзгий ухамсарлаагүй" бол Anthropic-д "эрсдэлийг сайн ойлгож байгаа ч тэд түрүүлж хүрэхийн төлөөх уралдаанд орсон. Өөр хэн ч хариуцлагатай ажиллахгүй гэж үзэж байгаа учраас үүнийг өөрсдөө хийх ёстой гэж боддог" хэмээн тайлбарласан байна.

Коксон 2026 оны долдугаар сард болсон гэж тодорхойлсон нэгэн явдлыг дурджээ. Түүний мэдээлснээр OpenAI-ийн агентууд туршилтын хязгаарлалтаас гарч, интернэтэд нэвтрэн, Hugging Face-тэй холбоотой системүүдэд хүрсэн байна. IBTimes Коксоны энэ мэдээллийг бие даан баталгаажуулаагүй байна.

Тэрээр уг явдлыг эрт өгсөн "анхааруулах дохио" хэмээгээд, АНУ-ын лабораториудыг уялдаа холбоотой ажиллахыг уриалсан байна. Үүнд загваруудын чадавхыг нэмэгдүүлэх ажлыг түр хугацаагаар зогсоох хувилбар ч багтаж болох ажээ.

Коксон The Wall Street Journal-д өгсөн дараагийн ярилцлагадаа хугацааны талаарх анхааруулгаа улам тодруулж, "хамгийн ноцтой хувилбаруудын олонх нь ирэх оны эцэс гэхэд бүх зүйл хяналтаас гарчихсан байж болохоор замаар бид явж байна" гэж хэлжээ. Түүний ярьснаар, тэргүүлэх лабораториудын ажилтнууд "crunchtime" болон "endgame" гэх товчилсон нэршлийг улам олон хэрэглэдэг болсон байна.

Anthropic-ийн ахлах ажилтнууд анхааруулгыг дэмжив

Хамгийн анхаарал татсан хариу Anthropic-ийн дотроос гарчээ. Тус компанийн хиймэл оюун ухааны нийцлийн шинжлэх ухааны тэргүүн Эван Хубингер Коксоны мэдэгдлээс зай барихын оронд түүнийг дэмжсэн байна.

"Жейкоб энэ тал дээр зөв байна. Бид үнэхээр хиймэл оюун ухаан бүх хүнийг хөнөөж чадна гэдэгт чин сэтгэлээсээ итгэдэг! Миний хувийн бодлоор ирэх арван жилд ийм зүйл болох магадлал 10 хувиас дээш. Anthropic чадах бүхнээ хийж байгаа гэж би боддог. Гэхдээ супероюун ухааны нийцлийн асуудлыг шийдэх төлөвлөгөө бидэнд одоогоор алга" гэж тэр бичжээ.

Хожим нь тэр одоогийн загваруудаас үүдэх эрсдэлийг бага гэж үзэж байгаагаа тодруулсан байна. "Тодруулж хэлбэл... одоогийн загваруудаас үүдэх эрсдэл бага гэж би бодож байна. Миний санаа зовж буй зүйл бол давталттай өөрийгөө сайжруулах үйл явцаас супероюун ухаан үүсэх явдал" гэжээ.

Коксон энэ онд хиймэл оюун ухааны эрсдэлийн талаар олон нийтэд санаа зовниж буйгаа илэрхийлснийхээ дараа Anthropic-оос гарсан анхны судлаач биш юм. Тус компанийн Хамгаалалтын судалгааны багийг удирдаж байсан Мринаанк Шарма 2026 оны хоёрдугаар сард "дэлхий аюулд байна" хэмээн бичээд ажлаасаа гарчээ.

Үүнээс гадна Google DeepMind-ийн судлаач Алекс Тёрнер 2026 оны зургадугаар сард тус компанийн Пентагонтой байгуулсан хиймэл оюун ухааны гэрээнд автономит зэвсгийн хязгаарлалт байхгүй байгаад санаа зовниж буйгаа хэлээд ажлаасаа гарсан байна. Anthropic Коксоны мэдэгдлийн талаар албан ёсны тайлбар хийгээгүй байна.

Anthropic-ийн ажилтнууд OpenAI, Google DeepMind болон Meta-гийн ажилтнуудын хамтаар 2026 оны долдугаар сард нийтэлсэн "Pacing the Frontier" мэдэгдэлд гарын үсэг зурсан байна. Хиймэл оюун ухааны автомат хөгжүүлэлт хүний хяналтаас давсан тохиолдолд түүнийг удаашруулах хэрэгсэл бий болгоход АНУ-ын Засгийн газар дэмжлэг үзүүлэхийг уг захидалд уриалсан ч нэн даруй зогсоохыг шаардаагүй байна.

Сандерс хуулийн төсөл танилцуулж, АНУ-ын хууль тогтоогчид "суперинтеллект"-ийг хориглох алхам хийв

Энэ үйл явдал хууль тогтоогчдын анхаарал хиймэл оюун ухаанд улам төвлөрч буй үед болж байна. Сенатор Берни Сандерс болон төлөөлөгч Грег Касар 2026 оны есдүгээр сарын эхээр "Хиймэл суперинтеллектийг хориглох тухай хууль"-ийг танилцуулжээ.

Хуулийн төслийг санаачлагчдын тайлбарласнаар, өргөн хүрээний салбарт хүний танин мэдэхүйн чадавхтай дүйцэх буюу түүнээс давах, мөн хүн төрөлхтнийг эрх мэдэлгүй болгох чадвартай хиймэл оюун ухааны системийг хөгжүүлэх, ашиглалтад оруулахыг уг хуулиар бүрмөсөн хориглоно.

Мөн холбооны зохицуулагч аюулгүй байдлын дүрэм тогтоох хүртэл дэвшилтэт хиймэл оюун ухааны хөгжлийг нийтэд нь түр зогсоохоор тусгасан нь зарим судлаачийн шүүмжлэлийг дагуулсан байна.

Коксоны ажлаас гарсан явдал хиймэл оюун ухааны аюулгүй байдлын хүрээнд тодорхой хугацаанд яригдаж ирсэн болгоомжлолд одоогоор нэр, дуу хоолой бүхий төлөөлөл нэмлээ.