차하르는 또한 미하일로프 의견에 동의하며 “IT 실무자들은 정확성, 투명성, 보안, 통합의 복잡성에 대한 우려 때문에 신중한 태도를 보인다. AI 에이전트 시스템은 예측하기 어렵고, 문제 해결이 까다로우며, 기존 인프라와의 통합이 어려울 뿐만 아니라 컴플라이언스와 보안 문제도 발생시킬 수 있다”라고 말했다.
차하르에 따르면 풀로직은 건축 자재 유통업체를 위해 AI 에이전트를 구현하는 과정에서 어려움을 겪었다. 고객은 제품이 없을 때 대체품을 추천하는 AI 기반 도구를 원했지만, 제조업체 간 제품 사양 설명이 달라 부정확한 결과가 나타났다고 차하르는 설명했다.
그는 “카탈로그 구조의 불일치로 인해 테스트 중에 AI가 데이터를 환각하기 시작했다. 제품 번호와 사양을 스스로 만들어냈는데, 만약 발견하지 못했다면 심각한 비즈니스 결과를 초래했을 것”이라고 말했다.
