핵심노트 · 주제 05-02

윤리

이게 뭔가요?

기술을 만들고 사용하는 과정에서 사람의 권리와 안전을 존중하고, 자신의 선택에 책임지는 기준을 배웁니다. 식당 예약 앱에서 고객의 어떤 정보를 받을지, 예약 연락처를 홍보에 사용해도 될지, 앱 사용이 어려운 고객도 예약할 수 있게 할지 판단하는 일입니다.

왜 배우나요?

편리한 기능도 누군가의 사생활을 침해하거나 일부 사람을 이용에서 배제할 수 있습니다. 다른 사람의 자료와 코드를 사용할 때도 그 사람의 권리를 존중해야 합니다. 기술적으로 가능한 일의 영향을 살피고, 문제가 생기기 전에 책임 있는 선택을 하기 위해 배웁니다.

기술을 만들고 사용할 때 누가 어떤 도움이나 피해를 받을지 살핍니다. 개인정보 이용, 자동 평가, 자료 재사용 등의 상황에서 권리와 안전을 지키는 행동을 배웁니다.

교재 개념의 뜻을 설명하고, 가상 업무에서 언제 왜 쓰는지 풀어 쓴 자체 해설입니다. 먼저 설명과 예시를 읽고, 확인 질문에 자신의 말로 답해 보세요. 각 항목의 관련 교재 내용에서 단원과 교재 페이지를 확인할 수 있습니다. 20개 노트는 교재 전체 요약이나 시험 중요도 순위가 아니며, 주제 끝의 추가 학습 내용도 함께 확인하세요.

1. 피해에 대한 책임 — 기능이 사람에게 주는 이익과 피해를 살핀다

직업윤리는 전문 지식과 권한으로 일을 할 때 다른 사람에게 어떤 책임을 져야 하는지 다룹니다. 교재가 소개하는 ACM 윤리 원칙도 사람의 복지에 기여하고 피해를 피하도록 요구합니다.

기능의 사용자가 편리해졌어도 다른 사람이 피해를 볼 수 있습니다. 자동 배차로 고객의 평균 대기 시간이 줄었지만 일부 기사에게 어려운 지역만 반복 배정될 수 있는 것입니다. 전체 평균과 함께 이익과 부담이 누구에게 돌아가는지 확인하고 피해를 줄일 방법을 검토해야 합니다.

가상 업무 예시

자동 배차가 평균 배송 시간을 줄여도 일부 기사에게 어려운 구역이 반복 배정될 수 있습니다. 전체 평균만 보지 않고 부담이 어디에 집중되는지 확인하고 배정 기준을 조정할 수 있어야 합니다.

생각해 볼 질문
이 기능으로 누가 편리해지고, 누구의 업무 부담이나 피해 가능성이 커지나요? 두 집단을 모두 확인했나요?

2. 정직성 — 아는 것과 모르는 것을 구분한다

정직한 설명은 확인한 사실, 추정, 아직 모르는 부분을 구분하는 것입니다. 거짓말을 하지 않았어도 중요한 시험 누락이나 한계를 숨기면 듣는 사람이 잘못 판단할 수 있습니다.

개발자 컴퓨터에서 시연에 성공했다고 모든 이용 환경에서 검증한 것은 아닙니다. 시험한 기기와 조건, 확인하지 못한 예외를 함께 알려야 담당자가 공개 범위를 결정할 수 있습니다. 나중에 오류를 알게 됐다면 누구의 판단에 영향을 줬는지 확인하고 바로잡은 내용을 전달합니다.

가상 업무 예시

개발자가 한 명으로 시연한 신청 서비스를 ‘검증 완료’라고 보고하면 책임자는 동시 접속이 많은 날에도 쓸 수 있다고 오해할 수 있습니다. 개발자는 ‘기능 시연은 통과했지만 동시 500명 시험은 하지 않았다’고 구분해 보고합니다. 책임자는 부하 시험 후 공개할지 접수 인원을 제한해 시작할지 선택합니다. 사실을 숨기지 않아야 다른 사람도 위험을 판단할 수 있습니다.

생각해 볼 질문
시험하지 않은 조건까지 안전하다고 말하고 있지는 않나요? 확인한 결과와 아직 모르는 부분을 구분해 알렸나요?

3. 정보 사용의 목적 — 편리하다고 모두 이용하지 않는다

정보를 볼 수 있다는 것과 그 정보를 원하는 목적으로 사용해도 된다는 것은 다른 문제입니다. 담당자는 왜 수집했고 어떤 범위에서 이용하기로 했는지 확인해야 합니다.

예를 들어 고객 문의를 처리하려고 받은 연락처가 있다고 합시다. 그 자료에 접근할 수 있다는 이유만으로 새 홍보에 사용한다고 결정해서는 안 됩니다. 원래 목적과 새 목적의 차이를 확인하고 필요한 검토를 거칩니다. 이 노트는 목적을 확인하는 윤리 원칙을 설명하며, 개별 이용의 허용 여부는 적용되는 기준을 따로 확인해야 합니다.

가상 업무 예시

고객 문의를 처리하려고 받은 연락처를 새로운 홍보에 사용하려 한다면, 단순히 시스템에 저장돼 있다는 이유로 진행하지 않습니다. 허용된 이용 범위와 필요한 절차를 담당자에게 확인합니다.

생각해 볼 질문
고객에게 연락처를 어떤 목적으로 받았나요? 홍보에 다시 사용하기 전에 허용된 이용 범위와 필요한 절차를 확인했나요?

4. 공정성 — 전체 평균에 가려진 특정 집단의 불이익을 확인한다

공정성은 같은 계산식을 쓰는 것만으로 보장되지 않습니다. 사람들의 조건이 다른데 그 차이를 무시하면 같은 기준이 특정 사람에게 계속 불리하게 작용할 수 있습니다.

상담 건수만으로 직원을 평가하면 짧고 쉬운 문의를 많이 맡은 사람이 높은 점수를 받을 수 있습니다. 어려운 문제를 해결하느라 오래 걸린 사람은 실제 기여보다 낮게 평가될 수 있습니다. 건수 외에 업무 난이도와 해결 결과를 함께 검토하고 오류를 바로잡을 절차를 마련해야 합니다.

가상 업무 예시

상담 건수만으로 직원을 평가하면 복잡한 상담을 맡은 직원이 낮은 점수를 받을 수 있습니다. 업무 난이도와 해결 결과를 함께 검토하고 잘못된 평가를 수정할 절차를 마련합니다.

생각해 볼 질문
같은 평가 기준을 적용해도 특정 업무를 맡은 사람만 낮은 점수를 받지는 않나요? 업무 난이도 차이를 확인했나요?

5. 이해충돌 — 개인의 이익과 업무 판단을 구분한다

이해충돌은 개인적인 관계나 이익이 업무의 공정한 판단에 영향을 줄 수 있는 상황입니다. 이미 부정을 저질렀다는 뜻은 아니지만, 다른 사람이 판단 결과를 믿기 어려운 조건이 될 수 있습니다.

도입할 업체를 평가하는데 친구가 운영하는 회사가 참여했다고 합시다. 혼자 공정하다고 확신하는 것으로 끝내지 않고 관계를 알린 뒤 조직의 절차에 따라 평가 역할을 조정하거나 독립된 검토를 받아야 합니다. 판단 내용뿐 아니라 판단을 믿을 수 있는 과정도 필요합니다.

가상 업무 예시

도입 업체 평가를 맡았는데 지인이 운영하는 업체가 참여했다면 혼자 평가를 계속하지 않습니다. 관계를 알리고 조직의 절차에 따라 평가 역할을 조정해 공정한 비교가 가능하게 합니다.

생각해 볼 질문
평가 대상 업체와 개인적인 관계가 있나요? 평가 책임자에게 관계를 알리고 공정하게 검토할 방법을 정했나요?

6. 전문가의 주의 — 한계를 알리고 검증을 구한다

전문가는 자신의 지식과 확인 범위를 알아야 합니다. 익숙하지 않은 분야를 검토하면서 확실하다고 말하면 그 설명을 믿는 사람이 위험을 판단할 수 없습니다.

정산 프로그램을 바꾸는 개발자가 회계 규칙을 잘 모른다면 회계 담당자와 실제 계산 예시를 대조할 수 있습니다. 확인한 조건과 남은 의문을 알리고 필요한 검토를 요청합니다. 일정을 맞추려고 시험을 생략했다면 생략한 사실과 영향을 숨기지 않아야 합니다.

가상 업무 예시

개발자가 정산 프로그램에서 금액을 계산한 뒤 반올림하던 순서를, 항목별로 먼저 반올림하도록 바꾸려 합니다. 작은 코드 정리처럼 보여도 거래가 많으면 합계가 달라집니다. 정산 규칙을 확신하지 못한 개발자는 회계 담당자에게 실제 계산 예를 확인하고 차이를 보고한 뒤 변경합니다. 모르는 규칙을 일정에 맞춰 임의로 확정하지 않는 것이 전문적 책임입니다.

생각해 볼 질문
자신의 지식만으로 정확성을 확인하기 어려운 부분은 무엇인가요? 해당 분야 담당자에게 어떤 검토를 요청해야 하나요?

7. 접근성과 포용 — 이용이 어려운 사람도 작업을 마치게 돕는다

접근성은 장애나 사용 환경의 차이가 있어도 필요한 기능을 이용할 수 있도록 만드는 것입니다. 신청 화면이 있어도 마우스를 쓰지 못하는 사람이 완료 버튼에 도달하지 못한다면 그 사람에게는 사용할 수 없는 서비스입니다.

상태를 색뿐 아니라 문구로 표시하고, 키보드나 화면 내용을 읽어 주는 보조 기술로도 신청을 끝낼 수 있게 합니다. 기능이 있다고 적는 데서 끝내지 않고 실제 작업을 처음부터 끝까지 수행해 막히는 단계를 확인해야 합니다.

가상 업무 예시

신청 버튼의 상태를 색으로만 구분하면 색을 구별하기 어려운 사용자는 진행 여부를 놓칠 수 있습니다. 상태를 문구로도 표시하고 키보드와 보조 기술로 신청을 완료할 수 있는지 확인합니다.

생각해 볼 질문
색을 구분하기 어렵거나 마우스를 쓰기 어려운 사용자도 신청을 끝낼 수 있나요? 막히는 단계와 대체 방법을 확인했나요?

8. 지식과 창작물 존중 — 출처와 이용 조건을 확인한다

그림·글·프로그램처럼 사람이 만든 결과에는 이용 조건이 있을 수 있습니다. 출처를 밝히는 일은 누가 만들었는지 알리는 것이고, 이용 허락은 이번 복제·수정·배포를 해도 되는지 확인하는 일입니다. 둘은 같은 확인이 아닙니다.

보고서에 인터넷 그림을 넣으려면 검색 결과만 보지 말고 원출처와 이용 조건을 확인합니다. 출처만 쓰면 어떤 용도로든 쓸 수 있다고 가정하지 않습니다. 이 글은 창작 기여를 존중하는 원칙을 설명하며, 구체적인 권리 범위는 해당 자료의 조건과 적용 기준으로 확인합니다.

가상 업무 예시

회사 소개 자료에 쓸 사진을 찾은 직원이 출처만 쓰고 유료 홍보물에 넣으려 합니다. 원출처의 조건을 확인하니 이번 용도의 사용 허락은 확인되지 않았습니다. 직원은 권리자에게 확인하거나 용도가 명확히 허용된 사진으로 바꿉니다. 누가 만들었는지 밝히는 것과 이번 방식으로 써도 되는지는 별도의 확인입니다.

생각해 볼 질문
출처뿐 아니라 이번 사용을 허용하는 조건을 확인했습니까?

9. 설명과 이의 제기 — 결정의 오류를 바로잡게 한다

자동 판단이 사람에게 영향을 준다면 그 사람이 이유를 이해하고 잘못된 정보를 알릴 수 있어야 합니다. 교재의 AI 투명성과 인간 통제 원칙을 실제 서비스에 적용하는 한 방법입니다.

자동 심사에서 신청이 거절됐는데 오류 코드만 보이면 신청자는 무엇을 고쳐야 할지 모릅니다. 안내할 수 있는 사유와 정정 방법을 알려 주고, 입력 오류가 확인되면 담당자가 재검토할 수 있게 합니다. 문의 창구만 만들고 결과를 바꿀 권한을 주지 않으면 정정이 실제로 이뤄지기 어렵습니다.

가상 업무 예시

배송 기사 등록 심사가 운전 자격 만료로 거절됐는데, 신청자는 이미 갱신한 자격증을 냈습니다. 서비스가 ‘오류 42’만 보여 주면 무엇을 바로잡아야 할지 모릅니다. 서비스는 확인 가능한 거절 사유와 갱신 자료 제출 경로를 안내하고, 담당자에게 기록을 수정해 재심사할 권한을 줍니다. 이의 제기는 문의를 받는 데서 끝나지 않고 잘못된 결정의 수정으로 이어져야 합니다.

생각해 볼 질문
잘못된 결과를 받은 사람이 이유를 알고 정정을 요청할 수 있습니까?

10. 문제 제기와 개선 — 침묵을 강요하지 않는 구조를 만든다

윤리적 딜레마는 지켜야 할 가치나 책임이 충돌해 쉽게 선택하기 어려운 상황입니다. 약속한 공개일을 지키는 일과 예상되는 사용자 피해를 막는 일이 충돌할 수 있습니다.

이때 문제를 발견한 사람이 우려와 확인한 사실을 전달할 경로가 필요합니다. 책임자는 실제 위험을 조사하고 공개 범위 조정이나 수정 같은 조치를 결정해야 합니다. 같은 문제가 반복된다면 발견한 사람에게만 주의를 요구하지 말고 일을 정하고 확인하는 과정도 고칩니다.

가상 업무 예시

공개 전날 개발자가 다른 고객의 견적서가 보이는 오류를 재현했습니다. 팀장은 일정 지연을 걱정하지만 오류를 숨기고 공개하면 고객 자료가 노출될 수 있습니다. 개발자는 확인한 조건과 영향을 책임자에게 전달하고, 책임자는 해당 공유 기능을 닫은 채 공개할지 전체를 미룰지 결정합니다. 이후 신고자가 불이익을 받지 않도록 문제 접수와 조치 과정을 기록합니다.

생각해 볼 질문
정보가 과도하게 공유되는 문제를 발견한 직원은 누구에게 알리나요? 불이익 없이 신고하고 처리 결과를 확인할 수 있나요?

11. 법과 윤리의 구분 — 허용 여부만으로 판단을 끝내지 않는다

법은 지켜야 할 기준을 정하지만 어떤 행동이 사람에게 좋은 영향을 주는지에 관한 모든 질문을 대신 답하지는 않습니다. 법적 허용 여부를 확인하는 일과 별도로 정직성·피해 예방·공공의 이익도 검토해야 합니다.

예를 들어 가입은 쉽게 만들고 취소 방법은 찾기 어렵게 숨겼다면 사용자의 선택을 방해할 수 있습니다. 규정을 확인했다는 설명만으로 검토를 끝내지 않고 사용자가 조건을 이해하며 신청과 취소를 선택할 수 있는지도 살펴봅니다.

가상 업무 예시

취소 방법을 찾기 어렵게 만든 화면이 매출을 유지하더라도 이용자의 선택을 방해할 수 있습니다. 법적 검토와 별개로 신청과 취소의 이해 가능성을 비교합니다.

생각해 볼 질문
규정을 지켰더라도 사용자가 취소 방법을 찾기 어렵지는 않나요? 사용자가 신청과 취소를 모두 이해하고 선택할 수 있나요?

12. 자율적인 선택 — 이해할 수 있는 동의를 돕는다

자율적인 선택을 돕는다는 것은 중요한 조건을 이해하고 원하지 않으면 거절할 수 있게 한다는 뜻입니다. 동의 항목을 화면에 넣었다는 사실만으로 충분한 설명이 됐다고 볼 수는 없습니다.

배송에 필요한 정보 처리와 선택적인 홍보 이용을 안내한다면 각각 왜 필요한지와 거절할 때의 영향을 구분해 설명해야 합니다. 원하지 않는 선택으로 유도하려고 버튼이나 문구를 헷갈리게 만들지 않습니다. 실제 동의 필요 여부와 조건은 적용되는 기준을 별도로 확인합니다.

가상 업무 예시

배송에 필요한 개인정보 처리와 선택적인 홍보 이용 동의를 구분해 안내합니다. 홍보 수신을 거절하는 방법과 영향을 쉽게 알 수 있게 하고, 실제 적용 조건은 조직 기준과 해당 의무를 확인합니다.

생각해 볼 질문
사용자가 중요한 조건을 이해하고 원하지 않으면 거절할 수 있습니까?

13. 데이터 최소화 — 필요한 만큼만 다룬다

데이터 최소화는 목적을 이루는 데 필요한 정보만 다루는 원칙입니다. ‘나중에 쓸지도 모른다’는 이유로 더 모으면 관리할 자료와 유출됐을 때의 피해도 커집니다.

교육 참석 여부를 확인하는 데 이름과 출석 상태면 충분하다면 상세 주소가 왜 필요한지 다시 물어야 합니다. 수집할 항목뿐 아니라 누구와 공유하고 얼마나 보관할지도 같은 목적을 기준으로 검토합니다.

가상 업무 예시

교육 참석 확인에 이름과 출석 상태면 충분한데 상세 주소까지 받는다면 필요성을 다시 묻습니다. 목적과 관계없는 항목을 제거해 노출 범위를 줄입니다.

생각해 볼 질문
출석을 확인하는 데 상세 주소가 꼭 필요한가요? 그 정보를 받지 않아도 같은 업무를 할 수 있나요?

14. 익명화의 한계 — 이름을 지웠다고 안전하다고 단정하지 않는다

이름을 지웠어도 다른 정보로 누구인지 알아볼 수 있습니다. 이렇게 식별 정보를 제거한 자료에서 개인을 다시 알아내는 것을 재식별이라고 합니다.

세 명뿐인 팀의 나이·직책·근무일을 함께 공개하면 동료는 쉽게 누구의 기록인지 짐작할 수 있습니다. 이름의 유무만 보지 말고 자료의 세부 수준과 결합할 수 있는 다른 정보를 함께 살펴야 합니다. 필요한 경우 집계 범위를 넓히거나 불필요한 항목을 줄이고 접근을 제한합니다.

가상 업무 예시

회사 설문에서 이름은 지웠지만 ‘야간조·시설기사·60대’ 응답자가 한 명뿐이었습니다. 동료들은 그 조합만으로 누구의 불만인지 짐작할 수 있습니다. 담당자는 소수 집단의 결과를 더 큰 집단으로 합치고 불필요한 속성을 빼기로 합니다. 이름 삭제만으로 익명성을 보장한다고 설명하지 않습니다.

생각해 볼 질문
다른 정보와 합치면 특정 개인을 알아볼 수 있습니까?

15. 권력의 차이 — 거절하면 불이익을 받을 사람을 고려한다

선택 사항이라고 적혀 있어도 거절하면 불이익을 받을까 걱정하는 사람은 자유롭게 결정하기 어렵습니다. 권한이 큰 사람이 요구할 때는 상대가 실제로 거절할 수 있는 조건인지 살펴야 합니다.

직원에게 개인 기기의 감시 기능 설치를 선택이라고 해 놓고 거절자를 불성실하게 평가한다면 형식만 선택일 수 있습니다. 목적을 달성할 다른 방법을 제공하고 거절과 인사 평가를 분리하는 등 실제 선택이 가능하도록 해야 합니다.

가상 업무 예시

직원에게 개인 기기 감시 기능 설치를 선택 사항이라고 하면서 거절자를 불성실하게 평가하면 자유로운 선택이 아닙니다. 목적에 맞는 대안과 평가와의 분리를 검토합니다.

생각해 볼 질문
직원이 감시 기능 설치를 거절해도 평가나 업무 배정에서 불이익을 받지 않나요? 다른 방법으로 업무를 할 수 있나요?

16. 자동화에 대한 감독 — 검토자에게 수정·중단 권한을 준다

자동 판단에 대한 인간 통제는 사람이 결과를 검토하고 필요하면 수정하거나 멈출 수 있게 하는 것입니다. 사람이 승인 버튼을 누른다는 사실만으로 충분한 검토가 이뤄졌다고 볼 수는 없습니다.

수백 건의 결과를 즉시 승인하라고 요구하면서 근거를 보여 주지 않으면 오류를 찾기 어렵습니다. 검토자에게 판단 자료와 시간을 주고, 중요한 결과를 우선 확인하게 하며, 잘못됐을 때 수정·중단할 권한도 제공해야 합니다.

가상 업무 예시

자동 환불 거절 결과 300건을 한 직원이 10분 안에 확인하도록 했습니다. 건당 2초로는 주문 기록을 읽기 어려운데 담당자에게 결과를 바꿀 권한도 없습니다. 회사는 처리량을 조정하고 의심 사례를 보류·수정할 권한과 검토 시간을 줍니다. 사람이 승인 버튼을 눌렀다는 사실만으로 실질적인 감독이 된 것은 아닙니다.

생각해 볼 질문
검토자에게 자동 판단의 근거를 읽을 시간과 자료가 있나요? 오류를 찾으면 결과를 수정하거나 처리를 중단할 권한도 있나요?

17. 지속적인 영향 평가 — 도입 뒤의 피해도 관찰한다

기술의 영향은 도입 전에 예상한 것과 다를 수 있습니다. 교재의 AI 안전 원칙은 시스템이 사용되는 전체 기간에 걸쳐 위험을 확인하는 관점을 포함합니다.

추천 서비스가 특정 상품만 반복해서 보여 준다는 의견이 나오면 실제 노출 기록과 영향을 살펴야 합니다. 평균 클릭 수가 늘었다는 이유로 일부 판매자의 배제를 무시하지 않습니다. 사용 범위가 넓어지거나 목적이 바뀌면 새 피해가 생기지 않는지도 다시 검토합니다.

가상 업무 예시

상품 추천이 기존 판매량을 크게 반영하자 신규 판매자는 노출을 받지 못해 판매 기록도 쌓지 못했습니다. 운영팀은 판매자의 불만만 듣고 즉시 순위를 뒤집기보다 가입 시점별 노출·구매 흐름을 조사합니다. 신규 상품을 시험 노출할 기회를 마련하고 고객 만족과 판매 기회 변화를 함께 봅니다. 도입 때의 의도가 선해도 운영 중 특정 집단에 불이익이 쌓일 수 있습니다.

생각해 볼 질문
서비스 운영 중 누군가에게 피해가 생겼다는 의견은 누가 확인하나요? 확인 결과에 따라 기능이나 운영 방식을 바꿀 수 있나요?

18. 책임 있는 공개 — 알리는 방식의 피해도 고려한다

문제를 알리는 행동도 피해를 더 키우지 않는 방법으로 해야 합니다. 보안 약점을 발견했다면 무엇을 어디까지 확인했는지 구분하고 수정할 수 있는 담당자에게 필요한 근거를 전달합니다.

고객 자료가 노출된 사실을 증명하려고 실제 고객 명단을 공개 게시판에 올리면 더 많은 사람에게 퍼질 수 있습니다. 필요한 증거만 보호된 경로로 전달하고 수정 진행을 확인합니다. 문제를 숨기지 않는 것과 민감한 자료를 모두 공개하는 것은 다른 선택입니다.

가상 업무 예시

정보 노출을 발견했다고 실제 고객 자료를 공개 게시판에 올리면 피해가 커집니다. 필요한 증거만 보호된 경로로 전달하고 수정 진행을 확인합니다.

생각해 볼 질문
취약점을 알릴 때 실제 고객 정보까지 공개하고 있지는 않나요? 수정 담당자에게 필요한 증거만 안전하게 전달할 수 있나요?

19. 저작과 기여 — 함께 만든 사람의 역할을 존중한다

공동 작업의 성과를 소개할 때는 실제로 누가 무엇을 했는지 정확히 밝혀야 합니다. 다른 사람이 만든 부분을 자신의 작업으로 말하면 듣는 사람이 역량과 책임을 잘못 판단하게 됩니다.

팀 프로젝트를 포트폴리오에 쓸 때 자신이 만든 기능과 다른 팀원의 기능을 구분하고, 함께 결정한 설계는 공동 작업으로 설명합니다. 공개할 수 있는 자료인지와 이용 조건도 확인해야 합니다.

가상 업무 예시

팀 프로젝트를 개인 포트폴리오에 소개할 때 전체를 혼자 개발했다고 쓰지 않습니다. 자신이 맡은 부분과 공동 작업을 구분해 설명합니다.

생각해 볼 질문
공동 작업을 소개할 때 자신이 맡은 부분과 다른 사람이 맡은 부분을 구분했나요?

20. 책임 있는 도구 사용 — 자동화 결과도 사람이 확인한다

자동화 도구를 썼어도 결과를 업무에 적용하기로 결정한 사람의 검토 책임은 남습니다. 중요한 결과는 누가 확인하고 오류가 나면 누가 바로잡을지 정해야 합니다.

AI가 만든 환불 안내문에 잘못된 조건이 들어갔다면 도구가 썼다는 말만으로 끝낼 수 없습니다. 실제 정책과 대조한 뒤 게시하고, 오류를 발견하면 안내를 정정하며 검토 과정에서 무엇을 놓쳤는지도 보완해야 합니다.

가상 업무 예시

고객센터가 AI로 환불 안내문을 만들었는데 실제 상품 조건과 다른 환불 기한이 들어갔습니다. 그대로 게시하면 고객은 잘못된 기한을 믿고 신청 기회를 놓칠 수 있습니다. 담당자는 게시 전 승인된 정책과 대조하고, 이미 게시했다면 수정 내역과 문의 경로를 안내합니다. 문장을 만든 도구와 고객에게 안내할 내용을 승인한 책임을 구분합니다.

생각해 볼 질문
도구가 만든 결과를 실제 업무에 쓰기 전에 누가 책임지고 확인합니까?

교재에서 함께 확인할 내용

위 20개 노트는 교재 개념을 업무에 적용하는 길잡이입니다. 다음 이론과 기법은 별도로 읽고 직접 설명하거나 계산해 보세요. 이 목록도 교재 전체를 대신하지는 않습니다.

1. 전문가의 판단과 공익

교재의 직업윤리 강령은 공익, 고객과 고용주에 대한 책임, 제품 품질, 독립적인 판단을 다룹니다. 안전 결함을 발견했다면 납기를 맞추라는 지시만 따르기보다 확인한 결함과 예상 피해를 알리고 조치를 검토해야 합니다. 지시를 받았어도 전문가가 확인하고 설명할 책임은 남습니다.

확인해 보기: 납기를 맞추라는 요구와 이미 확인한 안전 문제가 충돌할 때 어떤 근거와 영향을 보고해야 할까요?

IT 비즈니스와 윤리 · 172쪽 →

2. 개인정보의 식별 가능성

개인을 알아볼 수 있는지는 이름 유무만으로 판단하지 않습니다. 이름을 지워도 희귀한 직업·지역·방문 시각을 함께 보면 특정 사람이 드러날 수 있습니다. 추가 정보로 다시 연결할 수 있는 가명 처리와 개인을 알아볼 수 없도록 하는 익명 처리를 같은 뜻으로 사용하지 않아야 합니다.

확인해 보기: 이름을 지웠더라도 희귀한 직업·지역·방문 시각을 함께 공개하면 왜 재식별 위험이 남을까요?

IT 비즈니스와 윤리 · 177쪽 →

3. 지식재산의 구분

확인해 보기: 출처를 적는 일과 복제·수정·배포 권한을 받는 일은 왜 다른가요?

IT 비즈니스와 윤리 · 193쪽 →

4. AI의 안전성과 책임

교재의 AI 윤리 원칙은 안전·투명성·책임·사람의 통제를 다룹니다. 자동 심사가 틀릴 수 있다면 누가 결과를 확인하고 어떻게 고칠지 준비해야 합니다. 처음 만들 때의 성능뿐 아니라 사용하는 동안 생기는 오류와 영향을 계속 확인하는 것도 중요합니다.

확인해 보기: 대출 심사 보조 AI가 잘못 분류했을 때 결과를 재검토할 사람과 절차를 왜 정해야 할까요?

IT 비즈니스와 윤리 · 207쪽 →