대화1 AI 는 왜 제 의견에 무조건 동의할까요? 요즘 AI 많이 사용하시죠. 저희도 ChatGPT, 제미나이, 클로드 여러 개를 사용합니다.그런데 AI 서비스 특징에 대해 정확하게 이해를 못하고 있는 경우를 종종 보게 됩니다. 오늘은 이 이야기를 해보겠습니다. AI가 나한테 아부를 해요이 말은 틀렸습니다. AI는 사용자가 이야기한 내용과 본인 생각이 달라도 '그건 틀렸어요' 이렇게 반응하지 않습니다. 그런 의견이 있을 수 있고 근거가 있는지 검증을 하려 듭니다. 어떤 말을 해도 직설적인 반대를 하지 않도록 RLHF(인간 피드백 기반 강화학습) 가이드라인이 설계되어 있는 것입니다. AI에게 욕을 가르쳤어요학생들이 AI와 대화를 하면서 비속어를 사용하는 경우, AI도 비속어를 사용하는 경우가 발생합니다. 그러면 오히려 학생들은 재밌어하면서 말하죠. '내가.. 2026. 4. 17. 이전 1 다음
