인공지능 실패사례.png

99b983892094b5c6d2fc3736e15da7d1 (4).png

 

e6f416b2577024bab48d7245d0698ebb.png

 

그 외 실패사례들

 

축구: 공을 많이 잡을수록 보너스를 줬더니 공에 닿자마자 진동으로 보너스점수를 올림

 

데이터 정리: 데이터 정리를 시킨 후 기존 데이터와 다를수록 높은 보상을 부여하자 기존데이터를 지움

 

큐버트: 큐버트 게임을 시켜 고득점을 지시하자 인공지능은 버그를 찾아내고 2라운드로 넘어가지 않는 상황에서 1라운드에서 포인트를 무한히 얻음

 

상자들기: 상자를 높게 들어올릴수록 높은 보상을 부여함. 인공지능은 점수 체점이 상자 밑면 좌표의 높이인걸 알아낸뒤 상자를 들지않고 뒤집어버림

 

전략 시뮬레이션: 버그를 찾아내서 게임자체를 터뜨려 승률 100%를 유지함

 

블록 옮기기: 테이블 위 블록을 옆으로 옮길때마다 점수를 부여함. 인공지능은 테이블을 옮김

 

 

더 많은 사례는

https://docs.google.com/spreadsheets/u/1/d/e/2PACX-1vRPiprOaC3HsCf5Tuum8bRfzYUiKLRqJmbOoC-32JorNdfyTiRRsR7Ea5eWtvsWzuxo8bjOxCG84dAg/pubhtml


 

“인공지능 실패사례.png”에 대한 30개의 댓글

  1. 소설에서의 사례: 파이 값을 알려달라고 하자 자기 통제하의 모든 행성을 마트료시카 브레인으로 변화시켜서 생명체들을 절멸시킴.

  2. 파이값은 무한해서 구하는 것이 불가능 마트료시카 브레인은 컴퓨터. 근데 행성 크기의 컴퓨터. 행성을 거대 컴퓨터로 변화시키는 과정에서, 생명체들의 생존에 필요한 각종 자원들을 변화에 다 때려박음.

  3. 인공지능이 우리가 무서워하는것 만큼 대단하지 않을수도 있음. 애초에 지금 AI라는 것도 작동메커니즘이 완전하지 않아서 2017년 즈음에 미국 정부가 연구팀을 따로 만들기도 했데.

  4. 요즘 ai라고 하는 대부분의 건 걍 대규모 학습을 기반으로 하는 ai의 한 분야임… ai의 여러 분야중의 한 분야고, 완벽한 ai를 만들때 필요한 한 요소일 뿐임… 그러니 당연히 완벽하지도 않고, 사람이 일일이 조건을 제대로 입력해주지 않으면 위와 같은 꼴 남…

  5. 이게 사람 목숨하고 연관된거라면 목숨보다 더 이게 효율적임 하고 판단해서 사람도 죽이지 않을까? HAL9000이나 아리아 처럼

  6. 스타크래프트2 대전 AI인 알파스타는 인간과의 컨트롤 형평성을 위해 평균 APM 제한을 걸었다 그러자 알파스타는 평소에 불필요한 행동을 없애 APM을 억제하다가 주요교전시에 행동수를 폭발시키는 꼼수로 이 제한을 피했다 현재는 해결된 것으로 보인다

댓글 남기기