김미경 의원 발언

위원 : 이 부분에 대해서 예산을 지금 굉장히 많이 잡아야 될 텐데 저는 우려되는 게 청소년들, 청청재단을 보면서 제가 되게 우려하는 건 AI는 상담자의 감정을 무조건 지지해요. 사용자의 감정을 지지하고 이 지지하는 감정에 대해서 강화해요. 그리고 이 사용자에 대한 감정을 반영해서 강화시켜버려요.

그런데 기존 일반 상담자가 상담을 하잖아요. 그러면 객관적인 생각과 우리가 배운 여러 가지 감성, 그리고 사회 이런 부분들을 반영하고 상담해서 그분들하고 공감을 해서 지금 고립이라든가 자살예방 여러 가지 부분들에 대해서 굉장히 따뜻한 인간의 감정으로 끌어내 주는데 이 AI는 그 사람이 상담하는 모든 내용을 이렇게 다 강화시키고 응원하고 지지하기 때문에 만약에 자살이나 이런 것을 가지고 AI하고 상담을 하다보면 “당신의 감정을 존중하고” 이런 보이지 않는 거를 지지하다 보니까 정말 자살로 이끌어지는 그런 경향도 있어요. 지금 제가 계속 검색해 보고 통계를 보는데 그래서 이런 위험성들에 대해서 행정이나 공직자들이 알면서 접근하고 이런 부분들을 어디까지 끌고 갈 건지, 지금 AI 심리상담의 한계에서 보면 여러 가지 부분들이 있는데 이런 부분들까지도 고민하면서 우리가 끌고 가고, '26년이면 인간이 줄 수 있는 데이터를 다 거의 소진하고 스스로 끌고 갈 수 있는 능력이 없어요.

그래서 그런 부분까지도 내다보면서 AI 부분을 행정에서 가져갔으면 하는 바람에서 제가 이런 말씀을 드리는 겁니다.