從技術上說,這樣的場景是完全有可能出現的。不少科學家已經開始擔心,未來這種能夠自主進行目標攻擊的人工智能機器人是否會對人權造成侵害,甚至是威脅人類生存。就在近日于日內瓦舉行的聯合國會議上,殺手機器人(LAW)的問題被安排為主要的會議討論議程中。參與聯合國裁軍會議的成員國家將會決定未來是否將這些致命自主性武器列為禁用裝備。
人權與機器人技術:未來戰場上,或許并不會出現機器人軍隊
“我們討論的是各種各樣的自主武器系統,它們的自主性或高或低,無論它們在多大程度上能夠進行自主攻擊。我們要討論的不僅僅是武器本身,而且還是這種新的作戰方式可能帶來的影響。”人權觀察軍備部門的倡導主任 Mary Wareham 說道,同時,她還是“殺手機器人禁令運動”(Campaign to Stop Killer Robots)的全球協調員。
這項運動是在 2013 年 4 月份開始啟動的。目前,全球有 60 多個非政府組織參與了這項運動并展開合作,旨在“預先禁止全自主武器的開發、生產和使用”。在這一聯盟中,有人工智能專家、人權團體、外交專家等等,甚至還有一支由 Jody Williams 領導的團隊。Williams 本人以其禁止地雷的游走努力而聞名,他同時也是一名諾貝爾獎得主。
近年來,越來越多的國家開始為自己的軍備隊伍加入自主武器的力量。就在今年 10 月份,根據《紐約時報》對美國軍隊進行的一次詳細報道,目前美國已經對他們的軍事力量進行了重新裝備,加入了更多的自主武器系統,其中包括機器人戰斗機、可在數千英里外進行目標跟蹤的自主潛艇等等。而這些裝備,都無需人類指導就能自主對目標發起攻擊。
“我們目前正在討論由人類控制的武器系統及個人攻擊的本質。”Wareham 說道。據了解,在本月晚些時候,常規武器公約將在日內瓦聯合國舉行第五次審查會議,代表們將考慮在 4 月份中提出的關于設立一個專門用于 LAW 審議的政府專家組。而這將成為控制殺手機器人發展的第一個真正的國際聯合的實際努力。