저는 소프트웨어가 점차 사회의 핵심 요소로 사용되는 만큼 소프트웨어 개발자도 중요한 역할을 맡게 되었으니 전문가 의식을 가지고 그 역할에 맞는 행동을 해야 한다고 생각합니다.

대부분 개발자도 회사에 고용이 되어 일을 합니다. 하지만, 일반 노동자의 경우 고용자가 생산 수단을 제공하고 노동자는 단지 이 생산 수단을 운영하는데 필요한 노동력을 제공하는 것이 주인 것과 달리 소프트웨어 개발자(그리고 다른 지식 노동자)는 자신이 가진 지식과 지능으로 제품을 만들기 때문에 그 지위도 고용인과 대등한 관계에 있다고 볼 수 있습니다. 저는 이런 상황을 “소프트웨어 개발자는 생산 시설을 들고 일터에 걸어들어가고 퇴근할 때 들고 나오는 노동자”라고 말하곤 합니다.

작년에 우연히 마리사 데일(Mariesa Dale)이란 분의 기술자 히포크라테스 선서라는 글을 읽었습니다. 내용을 읽고 너무나 감동했고, 오랫동안 견지하던 제 뜻과 일치하여 이 선서에 동참하기로 했습니다.

동료들에게도 소개하고 싶어서 번역하려 했으나 계속 미루기만 하다가 최근에 조금씩 번역해서 이렇게 공개합니다. 오역이나 어색한 부분은 알려주시면 수정하겠습니다.

서문

기술자들은 오늘날 강력한 도구를 휘두른다. 우리는 한 번도 만난 적 없는 사람들에게 영향을 끼치는 설계를 하고, 우선순위를 정하고, 세상에 물건을 선보인다. 우리는 그들의 손목에, 랩탑 안에, 주머니 속에 있고 따라서 그들의 머릿속에 있다. 때로는 윤리가 흑백처럼 분명하지만 때로는 조금 더 복잡할 수도 있다.

난 운 좋게 최근에 인터랙션 18에서 진행된 앨런 쿠퍼의 강연을 들은 청중 중 하나였는데, 그는 강연장을 가득 메운 기술자들에게 다음과 같은 시나리오를 상상해 보라고 요청하면서 강연을 시작했다.

• 당신은 데이터 분석가로서 거의 완벽하게 타게팅되어 십억 달러 규모의 사업을 가능케 하는 광고 플랫폼을 구축하도록 돕는다. 하지만 외국 해커는 광고 플랫폼을 대통령 선거에 영향을 미치고 대의 민주주의를 해치는 데 사용한다.
• 당신은 세계 최고 수준이고 전 세계에 서비스될 기계 학습 철자 검사 알고리듬을 작성한다. 하지만 어느 날 이 알고리듬 때문에 몇 가지 처방 약 이름이 자동으로 다른 약 이름으로 수정했고 무고한 사람들이 피해를 당했다.

이런 예는 기술이나 제작자를 비난하려는 것이 목적이 아니다. 우리가 무엇을 만들 때 짊어질 책임을 설명하려는 것이 그 목적이다. 쿠퍼가 강연에서 말했듯, 우리는 단지 현재 기술의 구멍을 땜질하기만 할 뿐 아니라, 미래 기술이 이런 식으로 오남용되는 것을 막으면서 앞으로 나아간다.

선서의 배경

모든 사람이 각자의 방식으로 자신의 기준을 긋는다. 그리고 아마도 영향력 있는 제품을 구현할 때 무엇인 타당한지 따지는 범위는 다양할 것이다. 이것이 바로 의도된 사용이 사용자 경험의 현실과 항상 같지는 않다는 면에서 기술자들이 자신의 심리적 영향과 그 외 성과를 이해하기 위해 자신들이 구현하는 패턴에 대해 스스로 교육할 길을 찾아야 하는 이유이다. 그뿐 아니라, 우리는 무언가 선을 넘을 때 권위를 주장할 권리가 있음을 알아야 합니다.

엔지니어, 디자이너, 제품 관리자, 데이터 과학자 등으로 살면서 매일 휘두르는 엄청난 힘에도 불구하고, 우리 산업에서 윤리에 대한 교육과 감독은 너무 미약하다. 그리고 이런 자아 성찰의 순간을 갖는 사람은 나뿐 아니라, 아이폰 고안자에서 와이-컴비네이터(Y Combinator) 리더, 그리고 더 많은 사람이 모두 이를 느낍니다.

이 발견 과정에서 나는 윤리 표준을 자신들의 전문직에 통합하는 산업을 더 잘 이해하게 되었고, 의사의 히포크라테스 선서를 본뜬 기술자를 위한 선서를 만들게 되었다. 이것이 첫 기술직 종사자를 위한 서약은 아니며 마지막도 아닐 것이지만, 우리가 더는 우리의 책임과 우리 작업의 잠재적 영향에 대해 무지할 수 없다는 새로운 세계의 일부이다.

원래 이것은 개인적인 노력이었고, 특히 중요한 설계 작업 동안 나 자신에게 충실할 수 있는 표준으로 만들었다. 하지만, 내가 이것을 공유한 동료의 범위가 점차 넓어지면서, 그중 일부도 선서의 가치를 발견했다. 어쩌면 당신도 그럴 것이다.

기술자 선서

나는 내 능력과 판단력을 다하여 이 서약을 이행할 것을 맹세한다.

나는 개인으로든 집단으로든, 사용자가 숫자나 목표가 아니라, 사람이고 존중되어야 한다는 것을 기억할 것이다.

나는 선배 기술자들이 어렵게 얻은 전문적이고 창의적인 성취를 존중할 것이고, 내 지식을 다가올 세대와 기꺼이 공유할 것이다.

나는 최종 사용자의 이익과 가치에 내 능력을 활용할 것이고, 제품의 목표가 이것과 충돌할 때 변호할 것이다.

기술에는 과학뿐 아니라 예술이 있고, 내가 내리는 결정의 결과에 대한 공감, 공예, 신중함이 나의 기술적 지식의 중요성이나 금전적 이득을 향한 충동이나 지위의 유혹보다 중요하다는 것을 기억할 것이다.

나는 “모른다”고 말하는 것을 부끄러워하지 않을 것이며, 심도 있는 비평이나 다양한 사고에 다른 사람의 실력이 필요할 때 동료들에게 도움을 청할 것이다.

나는 기술과 건강한 관계를 유지하기 위해 사용자가 필요함을 존중할 것이다. 내가 해결하려는 모든 문제에 대해, 나는 내가 만든 해결책의 대상자들과 직접 접속하도록 노력할 것이다.

나는 삶의 균형과 조작 문제에 주의를 기울이고, 윤리적 딜레마나 도덕적 무모함이 일어날 때 참여를 중단해야 한다.

나는 내가 만든 기술에 영향을 받은 이들의 삶에 긍정적인 영향을 주도록 노력할 것이다. 그러나 나는 삶에 심각한 결과를 초래할 부정적인 영향력이 내 힘 안에 있다는 것도 인정한다. 이 엄청난 책임은 나 자신의 한계에 대한 강한 겸손과 자각에 직면해야 한다.

난 내가 단지 플랫폼, 애플리케이션, 웹 사이트를 만들기만 할 뿐 아니라 내 작업이 결국 인류에게 영향을 미친다는 점을 기억할 것이다. 내 창조물을 사용할 지위나 자격이 그들의 가족, 경제적 안정성, 정신 건강에 영향을 미칠 수 있다. 내가 진정 윤리적인 제품을 만들었다고 믿는다면 내 책임에는 직접적인 관련 결과가 모두 포함되어야 한다.

나는 가능한 한 사용자의 착취를 막겠다. 방지하는 것이 구출하는 것보다 낫기 때문이다.

나는 내가 사회의 일원으로서 모든 내 동료 인간, 그들 마음의 소리와 지체부자유와 중도장애를 포함한 몸 모두에 특별한 의무가 있음을 기억할 것이다.

무엇보다, 나는 내가 관문을 지키는 사람임을 안다. 권위에 복종하기보다 내가 만든 기술의 결과에 훨씬 더 관심을 둔다. 내가 이 선서를 어기지 않는다면, 나는 삶과 내 기술을 즐기며, 내가 사는 동안 존중받고 그 후에는 기억될 것이다. 내가 항상 내 소명의 가장 높은 기준을 유지하기 위해 행동하기를 바라고, 내가 세상에 내놓는데 일조하는 경험과 제품을 통해 직간접적으로 내 도움을 구하는 사람들을 돕는 기쁨을 내가 오랫동안 경험하기 바란다.