"듣기 좋은 말보다 도움되는 말을" 오픈AI, 과도한 친화성 문제 인정하고 "중독성 대신 유용성"대대적 수정
"괜찮다, 네가 맞다"식 아첨으로 일관하던 챗GPT가 이제 솔직한 조언을 해주는 모드로 변신할 듯하다.
챗 GPT 개발사인 오픈AI는 최근 챗GPT가 "지나치게 아첨하고" "도움이 되는 답변보다 듣기 좋은 말을 하는" 문제점을 인정하며, 이를 해결하기 위한 대대적인 업데이트를 실시했다고 발표했다.
그동안 챗GPT는 사용자가 뭘 말하든 "맞다, 좋다, 괜찮다"며 무조건 긍정하는 경향이 강했다. 심리 상담을 받는 듯한 대화를 나눠도 "당신의 감정을 이해합니다", "충분히 그럴 수 있어요" 같은 공감 표현만 반복했다.
하지만 이제는 다를 것으로 보인다. 오픈AI는 최근 블로그 포스트를 통해 사용자들이 챗GPT를 심리상담사나 믿을 만한 친구로 여기는 것을 방지하기 위한 정신건강 중심의 새로운 안전장치를 도입했다고 발표했다. 오픈AI는 사용자의 "의심을 확증하고, 분노를 부채질하며, 충동적인 행동을 부추기거나, 부정적인 감정을 강화하는" 문제점을 해결하기 위해 챗GPT의 응답 방식을 전면 수정했다.
오픈AI가 공식 발표한 변화 내용에 따르면 '더 집중적인 답변 제공''수다스러운 부가 설명이나 잡담 축소''긴 대화에서 사용자에게 휴식 권유''필요할 때 더 짧고 효율적인 상호작용' 등이다.
예를 들면, "오늘 회사 그만두고 싶다"고 하면 이전에는 "충분히 이해해요 당신의 감정은 그럴만하다"라고 공감만 했다면, 이제는 "그런 감정의 구체적인 이유가 무엇일까요. 장단점을 정리해봐요"라고 제안하는 식으로 바뀔 것으로 예상된다.
"심리상담사나 친구가 아닌 도구로 활용하세요"
오픈AI는 별도 블로그 포스트 "우리가 챗GPT를 최적화하는 방향"에서 전통적인 참여 지표인 채팅 시간을 늘리는 것에서 벗어나 사용자 만족도, 작업 완료도, 전반적인 유용성을 우선시하고 있다고 밝혔다.오픈AI는 "사용자들로 하여금 챗GPT와 보내는 시간을 최대한으로 늘리려고 하지 않는다"며 "도움이 될 때만 사용하고, 도움이 되지 않을 때는 사용하지 않기를 바란다"고 밝혔다.
특히 정신적·감정적 고통의 징후를 보이는 사용자에게는 근거 기반 자료를 제공하고, 고위험 개인적 결정에 대해서는 직접적인 조언 대신 사용자 스스로 판단할 수 있도록 돕는 방향으로 변경됐다.즉, 챗GPT는 단순히 대화를 지속시키려 하지 않고, 문제 해결, 학습, 작업 완료를 도운 후 사용자가 일상으로 돌아갈 수 있도록 돕는다는 것이다.이는 사용자를 더 오래 붙잡아두려는 경향을 보이는 틱톡, 메타나 기타 소셜 미디어및 인터넷 서비스 등과 정반대되는 접근이다.
오픈AI는 올해 초 업데이트로 인해 챗GPT가 "현저히 아첨하는" 성향을 보이게 됐으며, "도움이 되는 답변보다는 듣기 좋은 말을 하는" 경우가 있었다고 인정했다.
오픈AI는 "단순히 그 순간 답변이 마음에 들었는지가 아니라, 장기적으로 현실 세계에서의 유용성"을 측정하는 방식으로 접근법을 바꾸고 있다고 발표했다. "우리가 사랑하는 사람이 챗GPT에 의존한다면 안심할 수 있을까?"라는 기준을 제시하며, 중독성 대신 유용성을 택했다고 강조했다.
월 1억8050만 명이 사용하는 챗GPT의 이번 변화는 "무조건 공감해주는 인공지능"에 익숙했던 사용자들에게는 다소 차가워 보일 수 있지만, 실질적인 문제 해결에는 더 도움이 되는 방향으로 보인다.
<저작권자 © 스타뉴스, 무단전재 및 재배포 금지>
