발견의 자동화

미래의 연구소:

과학자는 모든 실험을 직접 수행하지 않는다. 어떤 질문을 던질 것인가를 결정한다.

여기서 정말 큰 문제가 생긴다.

AI가 너무 빠르게 발견하면 인간이 그 발견을 이해하는 속도가 따라가지 못할 수 있다.

AI가

• 새로운 물리 모델을 발견하고
• 새로운 재료를 발견하고
• 새로운 약물을 설계하고
• 새로운 수학적 구조를 찾는다

하지만 인간은 왜 그것이 작동하는지 즉시 이해하지 못할 수 있다.

미래의 AI는 단순히 "정답입니다."라고 말하면 안 된다. 그보다

• “왜 그렇게 판단했는가?”
• “다른 선택은 무엇이었는가?”
• “어떤 위험을 발견했는가?”

를 설명해야 한다.

미래의 지능은 모든 것을 알고 있는 척하는 AI가 아니다.

스스로 "나는 이것을 모른다."라고 판단할 수 있어야 한다.

그리고 필요한 경우

• 더 많은 계산을 요청하고
• 다른 Intelligence에게 도움을 요청하고
• 실험을 수행한다