|
아킨 CTO는 “기술적으로 보안을 잘 하고 있다 하더라도 고객이나 이해관계자와의 소통도 중요하다”며 “쌍방향 상호 작용으로 우선순위가 어디에 있는지 이해하고 대응해야 우리의 업무가 신뢰로 이어질 수 있다. 문을 닫고 우리가 무엇을 하고 있는지 모르면 성공할 가능성이 낮다”고 봤다.
아울러 “문제가 발생할 때 정보를 투명하고 솔직하게 자세히 공유하면, 시간이 지나면서 위기를 받아들이고 최소화할 수 있는 최선의 기회가 생긴다”면서 “이것이 바로 AI 신뢰를 위한 또 다른 중요한 부분이다. 고객에게 중요한 것을 다중 요소로 인증받고 싶다”고 말했다.
그는 보안 및 신뢰와 관련해 “20년 전 구글이 스타트업이었을 당시 시도한 것 중 하나는 검색 툴을 만들어 회사 내에서 사용할 수 있는 모든 정보를 색인화한 것”이라며 “하지만 한 회사 동료의 이름을 검색했더니 모든 직원의 명단과 급여가 포함된 파일이 공개되는 의도치 않은 오류가 발생했다”고 사례를 들었다. 그러면서 “AI 도구는 권한이 없는 민감한 데이터 베이스(DB)를 검색할 때 무방비로 노출되도록 구성해서는 안된다”고 경고했다.
아킨 CTO는 세일즈포스가 기술 보안에 중점을 두면서 침투 테스트를 수행하고 개선해야 할 오류를 찾는 ‘레드팀(Red Team)’ 조직의 역할을 강화하고 있다고 설명했다. 아울러 인종 차별과 각종 범죄 등 AI의 비인도·비윤리적 활용을 통제하는 전담팀도 동시에 운영 중이라고 했다. 그는 “구축 중인 AI 도구가 사용하고자 하는 목적에 적합한지 확인하고, 다양한 유형의 문제에 대해 허용 가능한 수준으로 위험을 관리할 수 있도록 조율하고 있다”고 소개했다.
아킨 CTO는 이번 드림포스에서 다양한 세션과 패널 토론, 참가자 미팅과 소통을 통해 그들이 무엇을 중요하게 여기는지 이해할 수 있는 기회였다고 소감을 전했다. 생생한 피드백을 바탕으로 세일즈포스의 ‘패스트 롤아웃(fast roll-out·빠른 발표 또는 생산)’ 프로젝트를 통해 고객 안전과 신뢰 구축을 위한 우선순위에 기민하게 대응할 것이라고 밝혔다.
그는 “가장 중요한 것은 명확한 커뮤니케이션으로 다양한 이해관계자 및 고객과 투명하게 소통하고, 규제 당국으로부터 무엇이 중요한지 이해할 수 있다면 사내 교육과 정보를 통해 이러한 우선순위에 대응할 수 있다”며 “예를 들어 지문을 사용해 열쇠를 안전하게 보관하고 직원들의 기분을 좋게 하면 생활이 더 쉬워진다”고 역설했다. 그러면서 “전 세계 7만2000여명의 세일즈포스 임직원들이 ‘패스트 패스(fast pass·빠른 처리)’ 프로젝트에 참여하면서 더 나은 보안 준수와 신뢰 구축 결과로 이어질 것”이라고 덧붙였다.
