로봇의 지능이 인공적인 것이라서 생기는 문제는, 진화적으로 자신의 생존(보호)를 위해 발달한 지능(*)과 달리 자아에 대한 인식, 자신의 안녕에 대한 두려움이 없다는 것이다.
자신의 안녕에 대한 두려움이 없는 존재이기 때문에, 보복에 대한 거리낌이 없이 사회적 규범에 벗어나는 짓을 할 수 있다. 이와 비슷한 행동양식을 보이는 것이 어느 사회에나 있는 폭력집단(조직폭력단, 갱, 군대)이다. 실제로 폭력집단 하층에 있는 폭력배는 자신의 목숨을 가볍게 생각하도록 세뇌당하며, 명령에 대해 로봇과 같은 복종을 요구받는다.
아시모프는 로봇3원칙을 제시하여, 인간에 대한 위해를 가할 수 없도록 규제할 수 있다고 상상했다. 그러나, 로봇3원칙을 실제로 구현하는 알고리즘에는 구멍이 없을까?
"뚫었어. 기본 프루프 레이어는 뚫었으니까, 이제 인간구별 알고랑, 자기보호 알고만 조작해서 넣으면 돼."
몸체가 여기저기 긁힌 BOR-E 형 로봍에 연결된 단말기를 조작하며 베켈레가 말했다.
볼살이 통통한 중년 남성의 얼굴을 한 채, 모토라가 꺼져있어 각각 720도씩 꼬여버린 팔과 다리를 달고 누워있는 봍의 장면은 좀처럼 익숙해지지 않았다.
* 꿈꾸는 기계의 진화
허무맹랑입니다.
20080129추가 : 내 생각과 관계가 있을 수 있음 Governing Lethal Behavior: Embedding Ethics in a Hybrid Deliberative/Reactive Robot Architecture* - Ronald C. Arkin Bruce Schneier의 글
덧글
2008/01/25 02:37 # 
비공개 덧글입니다.추천법은 저도 잘 모르겠네요. ^^;