DS CHAT GPT 금지관련하여 정보보호센터, AI센터 미팅 회의록 > 공지사항

안녕하세요, 초기업노동조합 삼성전자 지부 홍보국장 최승호입니다.

DS CHAT GPT 금지관련하여 정보보호센터, AI센터 그룹장과 미팅을 진행하였습니다.

나우톡에 올라왔던 내용과 불만 사항에 대해 문의를 진행하였고, 이에 대한 답변 공유드립니다.

Q1. 

정보보호센터, AI센터에서 GPT 막아야 한다는 의견이 있었는지, 경영진의 선택으로 보이는 데 이와 관련하여 답변 요청

A1. 

DS를 제외한 모든 관계사가 이미 차단 중에 있고, 외부 생성형 AI를 통한 보안사고가 지속 발생하고 있어, 더는 미룰 수가 없다는 판단 하에, 정보보호센터에서 차단 필요성에 대해 경영진에 보고하고 결정했다.

Q2. 

GPT 별도 결재 승인이 필요한 데, 직원들의 접근을 막는 것에 대해서 어떻게 생각하는지? 

A2.

업무상 필요하면 결재를 통해 사용하는 것에 대한 설명과 FAQ에 좀 더 자세히 설명해 두었다.

다수의 사용자로 나가는 DATA들에 대한 보안사고를 막기 위한 것이다.

결재는 임원 결재가 필요하나, 사용의 어려움과 불만이 많은 것도 인지 6월 16일부터 1개월간 파트장 결재로 낮춰 놓았다.

Q3. 

외부 유출이 문제가된다면 기존엔 왜 안막았는지, 유지하면 문제가 되는지?

A3.  

DS도 최초에는 차단을 하였으나 23년도에 임직원 편의를 위해 최소한의 범위(1KB)로 사용을 허가해주었었다.

앞서 설명드린 대로 보안사고가 계속 발생하게 되어 차단하게 되었다. 

보안사고 예방을 위해 불가피한 조치임을 양해 부탁드린다. 

Q4. 

DS ASSISTANT (디엉탄) 이슈를 알고있는지, 여러 모델이 있다하더라도 신뢰도 문제가 있지 않은지?

A4.

디엉탄이라고 불리는 것도 알고 있고, 조롱의 대상이 되고 있다는 것도 알고 있다. 

GPT가 Close된 최근 상황과 함께 답변 품질이 낮은 DS Assisatnt에 대한 임직원들의 불만에 기인한 것으로 이해하고 있다. 

품질을 개선해서 신뢰회복을 해야 할 문제라고 생각한다.

다만 AI 센터에 20여명 직원들이 사내지식을 기반으로, 사내업무 관련되어서 활용 할 수 있도록 EDM, 컨플루언스 등 사내 DATA에 접근하여 업무에 도움이 되도록 개선하고 있다.

오픈AI 3천여명이 넘는 직원들이 만드는 GPT와 기능/성능적인 차이가 있지만, 다양한 최신 오픈소스 모델을 가급적 빠르게 DS Assistant에 적용하고 기능들을 개선 하는 등 최대한 격차를 줄이고자 노력 중이다.
임직원 분들이 만족하지 못하는 부분이 있다는 점도 알고 있고, VOC 올라온 것들도 개선 중이다. (날짜, 계산식 문제는 해결 됨)

Q5. 

일자 문의 및 단순계산식도 이해가 못하는건 신뢰 저하가 생기는게 아닌지 문의

A5. 

다양한 사용자 질문에 적절한 답변을 하기 위해서는 좋은 LLM 모델도 필요하지만 사용자 질문 의도를 파악하고, 여기에 맞춰 다양한 Tool을 활용하도록 해야 하는 등 내부적으로 많은 처리가 필요하다.

DS Assistant가 GPT보다 전반적인 답변 품질이 미흡한 점을 인지하고 있고 개선하도록 지속 노력하겠다.
 
 

Q6. 

이재용 회장에 대한 이야기들을 하면, 찬양하는 답변들이 간혹 나우톡에 올라오고 있다. 

나무위키에 정현호 부회장 기록 바뀐 것처럼 튜닝이 되었는지 문의

A6. 

특정 회사나 개인에 대한 LLM 모델의 답변에 대한 편향성 정도에 대해서는 개인별로 그 정도의 차이가 다들 수 있으며, 모든 사용자들이 동의 가능한 편향성 없는 보편적인 가치의 답변을 하는모델을 만들기가 어렵다. 

Big Tech 회사들도 수많은 인력과 비용을 넣어서 이러한 문제를 해결하고 있다. 

특정 회사와 관련된 객관적인 시각의 답변을 원하면 여러 제조사에서 제공하는 모델을 통해 얻어진 답변을 사용자가 보고 개인이 판단하는 방법을 권장드린다.

DS Assistant에 삼성전자와 회장님에 대한 긍정적인 답변에 대한 것은 사내 시스템으로써 갖춰야 할 최소한의 페르소나였고, 해당 프롬프트는 DS Assistant의 주요 목적인 업무 관련된 질문의 답변에는 영향을 주지 않는다.

Q7.

나우톡에 보안 관련 Idea를 이미지로 개선방향을 제시한 분이 있는데, 어떻게 생각하는지 문의

A7. 

제안한 다양한 아이디어들을 수개월 전부터 내부에서도 검토를 해 봤으나, 이미지 등이 포함된 긴 질의 및 source code 에서 보안 사항 포함 여부를 정확히 판단할 기술이 없다. 

임직원의 편의성과 보안 Risk를 동시에 만족시키가 매우 어려우며 모든 임직원의 질문을 실시간으로 필터할 수 있는 성능보장이 어렵다.

이러한 필터링 기준의 모호성, 성능상의 문제로 인해 오히려 임직원의 불만족이 증가가 예상된다. 

많은 기업들이 사외 LLM 사용을 차단하거나 보수적으로 활용하는 이유 또한 이러한 기술적인 구현이 사실상 불가능하기 때문이다.   

Q8. 

GHAT GPT 금지하기전에 보안 사고 현황이나 설명들이 필요하지 않았는지, 금지 전에 공청회 등 설명이 필요하지 않았는지 문의

A8.

정책 변경 전에 사전에 충분히 설명되지 못한 사실을 인정하며, 향후 유사건 안내가 필요할 때는 충분한 설명을 거치고 진행하겠다. 

 

CHAT GPT가 금지가 된 이상 모든 직원들이 사용은 어려울 것으로 보입니다.

회의록 참고해주시면 감사하겠습니다.