호모 파베르의 미래 #3/4

(p.303)
오늘날 공학자는 대부분 피고용자이기 때문에 자신이 하는 일의 내용이나 형식 면에서 일정한 제약이 따를 수밖에 없다.
공학자의 수가 다른 전문직에 비해 많다는 것도 이와 연결된 사실이다.
공학의 분야가 넓은 만큼 자신의 정체성을 공학자로 규정하는 사람들의 수가 많다. 
제한된 자격증이 있는 경우도 없지 않지만, 배타적인 자격증을 취득해야 하는 의사나 변호사에 비해 
'공학자'의 직군에 편입될 때 진입장벽이 높지 않다.
나아가 스스로를 공학자라 생각하는 사람들 사이에서도 전혀 다른 수준의 전문성을 가지거나 다른 역할을 담당하는 이들을 얼마든지 볼 수 있다.
서로 다른 역량과 경험에 따라 중대한 의사결정을 내려야 하는 높은 위치에 있는 공학자도 있지만
주어진 과업을 수동적으로 처리하는 공학자도 있다.
대부분의 공학활동이 여러 공학자들의 협업으로 이루어지기 때문에 개별 공학자 별로 사회적 위상이 분명하게 나누어지기보다는
그냥 공학자 중 한 사람으로 인식되는 경우가 많다는 점도 기억할 필요가 있다.

(p.297)
좋은 세상에 대한 비전이 매우 세세하게 정의되어야 하는 것은 아니다.
그러나 모든 공학 설계는 그 비전을 전제로 이루어지고 정당화되어야 한다.
...
기술 발전의 속도는, 비록 그것이 쉽지 않더라도, 
좋은 세상을 이루는 데 어떤 경우가 더 도움이 되는지의 판단에 따라 조절되어야 할 것이다.
물론 이러한 결정과 합의는 다양한 층위에서 다양한 방식으로 이루어질 수 밖에 없고,
경우에 따라서는 서로 모순된 결론으로 이어질 수도 있다.
그러나 어떤 경우이든, 기술의 개발과 사용이 좋은 세상에 대한 여러 견해를 반영한다면,
좀 더 근본적인 차원의 기술 민주화를 추구할 수 있을 것이다.

(p.311)
과학기술 분야의 전문가들이 비전문가들과 원활하게 소통하기 위해서는 과학기술의 사회적 영향에 대한 숙고가 필요하다.
과학기술은 중립적이기 때문에 잘 사용하면 좋고 잘못 사용하면 위험하다는 식의 단순한 발상은 
전문가들이 져야 할 책임을 방기하고 사용자와 정책결정자에게 미루는 결과를 낳을 수 있다.

(p.313)
핵폭탄을 만들었던 오펜하이머의 예를 들어 다시 반추해보자.
우리는 오펜하이머가 최고 전문가로서 자신이 선택한 바를 정당화하려 노력했는지를 질문할 수 있다.
그에 대한 답은 부정적이다. 물론 그것은 일차적으로 당시의 상황 때문이다.
핵폭탄의 제작은 당시 극비리에 이루어졌고,미국 정부는 오펜하이머에게 지시를 내린 것이지 정당화를 요구하지 않았다.
그렇다고 해서 오펜하이머가 아무 생각 없이 기능적으로 핵폭탄의 제작에 동의한 것은 아니다.
그는 핵폭탄의 위험을 어느 정도 알고 있었지만, 자신의 행위가 애국적이며 더 좋은 세상을 위한 것이라고 믿고 있었다.
그러나 그의 생각은 당시 그 프로젝트에 참여하기를 거부했던 다른 과학자들에 비해 다소 막연했다.
핵폭탄이 사용된 후 그의 행적을 보면, 그가 자신이 한 일의 의미를 표피적 차원에서만 생각하다가 뒤늦게 후회한 것을 알 수 있다.

(영화 '오펜하이머(2023)')
우리는 그저 도구를 만들 뿐입니다. 그 도구를 어떻게 사용할지는 우리가 결정할 일이 아니에요.

(『기술 공화국 선언』, 알렉스 카프)
실리콘밸리의 많은 기업들은 자신들이 만드는 기술이 그저 '중립적인 도구'일 뿐이라고 주장하며, 
그것이 어떻게 쓰이는지에 대한 도덕적 판단을 회피해 왔다. 
하지만 기술은 결코 중립적이지 않다. 
우리가 어떤 소프트웨어를 설계하느냐는 우리가 어떤 세상을 원하는가에 대한 직접적인 선언이다. 
특히 서구 민주주의 가치를 수호하기 위한 기술은 개인의 막연한 자유보다 
공익과 국가의 안보라는 더 큰 틀 안에서 고민되어야 한다.
...
단순히 개인의 편의를 돕거나 광고 수익을 극대화하는 기술은 진정한 의미의 혁신이 아니다. 
진정한 혁신은 사회 시스템의 붕괴를 막고, 
공동체가 직면한 거대한 위협(테러, 범죄, 팬데믹 등)을 해결하는 '공적 가치'에 복무할 때 완성된다.

"미 국방부의 요청에 양심적으로 동의할 수 없습니다. 
대규모 국내 감시(Surveillance)와 인간의 개입 없는 자율 살상 무기에 우리 모델이 쓰이는 것은 민주주의 가치에 반하는 일입니다.
정부와 의견을 달리하는 것이야말로 가장 미국적인 가치를 지키는 일입니다."
- 다리오 아모데이(Anthropic CEO), 2026년 2월 국방부와의 계약 거부 성명 중

"우리는 국방부와 긴밀히 협력하기로 했습니다. 
이 기술은 지정학적 갈등의 핵심이 될 것이며, 우리가 밖에서 비판만 하기보다는 시스템 안으로 들어가 안전장치를 직접 협상하는 것이 인류를 위해 더 낫습니다. 
기술과 법의 테두리 안에서 군을 지원하는 것은 우리의 책임입니다."
- 샘 알트만(OpenAI CEO), 2026년 3월 펜타곤 계약 체결 후 인터뷰 중