[논문]LLM 기반의 생성형 AI 응답 데이터 품질이 업무 활용 만족도에 미치는 영향에 관한 연구

이승환; 현지은; 김광용

doi:10.33778/kcsa.2024.24.3.117

[국내논문] LLM 기반의 생성형 AI 응답 데이터 품질이 업무 활용 만족도에 미치는 영향에 관한 연구
A Study of how LLM-based generative AI response data quality affects impact on job satisfaction 원문보기

융합보안논문지 = Convergence security journal, v.24 no.3, 2024년, pp.117 - 129

이승환 (숭실대학교 IT정책경영학과) , 현지은 (숭실대학교 IT정책경영학과) , 김광용 (숭실대학교 경영학부)

초록
AI-Helper

2017년 새로운 형태의 아키텍처인 트랜스포머(Transformer)가 발표되면서 언어모델에도 많은 변화가 있었다. 특히 대형 언어 모델인 LLM(Large language model)의 발전으로 검색이나 챗봇(Chatbot)과 같은 생성형 AI 서비스가 다양한 업무 영역에 활용되고 있다. 하지만 개인정보 유출과 같은 보안 이슈나 거짓 정보를 생성하는 할루시네이션(Hallucination)과 같은 신뢰성 문제가 발생하면서 이러한 서비스의 실효성에 대한 우려의 목소리도 커지고 있다. 이에 본 연구에서는 이러한 우려에도 불구하고 생성형 AI를 업무 영역에 활용하고 있는 빈도가 점점 증가하고 있는 요인에 대해서 분석하고자 하였다. 이를 위해 LLM 기반의 생성형 AI 응답 데이터 품질에 영향을 미치는 8가지 요인을 도출하고 유효 표본 195개를 대상으로 이러한 요인들이 업무 활용 만족도에 미치는 영향을 실증 분석하였다. 분석결과 전문성, 접근성, 다양성, 편리성이 지속적 사용의도에 유의한 영향을, 보안성, 안정성, 신뢰성 등이 부분적으로 유의한 영향을, 완전성이 부정적 영향을 미치는 요인으로 나타났다. 본 연구에서는 응답 데이터 품질에 대한 수요자의 인식이 업무 활용 만족도에 어떠한 영향을 미치는지 학문적으로 규명하고, 이러한 서비스에 대한 수요자 중심의 의미 있는 실무적 시사점을 제시하는데 그 목적이 있다.

Abstract ▼ AI-Helper

With the announcement of Transformer, a new type of architecture, in 2017, there have been many changes in language models. In particular, the development of LLM (Large language model) has enabled generative AI services such as search and chatbot to be utilized in various business areas. However, security issues such as personal information leakage and reliability issues such as hallucination, which generates false information, have raised concerns about the effectiveness of these services. In this study, we aimed to analyze the factors that are increasing the frequency of using generative AI in the workplace despite these concerns. To this end, we derived eight factors that affect the quality of LLM-based generative AI response data and empirically analyzed the impact of these factors on job satisfaction using a valid sample of 195 respondents. The results showed that expertise, accessibility, diversity, and convenience had a significant impact on intention to continue using, security, stability, and reliability had a partially significant impact, and completeness had a negative impact. The purpose of this study is to academically investigate how customer perception of response data quality affects business utilization satisfaction and to provide meaningful practical implications for customer-centered services.

Keyword

AI 본문요약
AI-Helper

문제 정의

하지만, 이러한 생성형 AI의 응답 데이터 품질이 업무 활용 만족도에 미치는 영향에 대한 연구는 부족한 실정이다. 이에 본 연구에서는 LLM 기반의 생성형 AI 응답 데이터 품질이 업무 활용 만족도에 미치는 영향에 대해 분석해 보고자 한다. 이를 위해 다양한 선행연구를 바탕으로 응답 데이터 품질에 영향을 미치는 8가지 요인을 도출하였다.
이를 위해 다양한 선행연구를 바탕으로 응답 데이터 품질에 영향을 미치는 8가지 요인을 도출하였다. 이렇게 도출한 요인과 업무 활용 만족도 및 지속적 사용의도 간에 관계를 실증 분석하여 업무에 지속해서 사용하고자 하는 수요자 중심의 학문적, 실무적 시사점을 제시하고자 한다. 나아가 LLM 기반의 생성형 AI 응답 데이터를 업무에 활용하고자 하는 잠재적인 수요에 대한 기대와 함께 서비스 측면에서의 품질 향상에도 기여하고자 한다.
이후 2001년도에 Bhattacherjee에 의해 후기 수용모델(PAM, Post Acceptance Model)로 발전 되었는데 기술수용모델이 정보시스템 사용에 대한 모델이라면 후기수용모델은 정보시스템의 사용에 대한 만족도와 지속적인 사용의도에 초점을 두고 제안된 이론이다[16]. 본 논문에서는 기술수용모델의 선행연구를 바탕으로 지각된 유용성과 지각된 사용용이성이 만족도 및 지속적 사용의도에 미치는 영향을 분석하였다.
(1995)에 의해 서비스 품질을 추가한 수정된 정보시스템 성공모델이 제시되었다[18]. 본 논문에서는 정보시스템 성공모델의 선행연구를 바탕으로 LLM 기반의 생성형 AI 응답 데이터 품질에 영향을 미치는 요인을 시스템 품질, 정보 품질, 서비스 품질 관점에서 도출하였다.
본 연구는 LLM 기반의 생성형 AI 응답 데이터 품질에 대해 사용자가 만족도를 느끼고 업무에 지속적으로 사용하게 되는 과정을 규명하는데 초점을 두었다. 이를 위해 연구모형에서 제시된 각 변수 간의 영향관계인 가설 검정을 위한 다중회귀분석(Multiple regression analysis)을 실시하였다.

가설 설정

DeLone & McLean은 1981년부터~1987년 사이에 발표된 정보시스템 성공 요인과 관련된 논문 약 180편에 대한 연구를 바탕으로 정보시스템 성공모델을 구성하였다. 시스템 품질(System Quality), 정보 품질(Information Quality), 사용(Use), 사용자 만족(User Satisfaction), 개인적 영향(Individual Impact), 조직적 영향(Organizational Impact)의 총 6가지 요인으로 구성되어 있으며 정보시스템 품질을 시스템 품질과 정보 품질로 구분하고 이 두 가지의 품질에 따라 사용자 만족도가 달라진다고 가정하였다. 이후 Pitt et al.

제안 방법

본 연구에서는 LLM 기반의 생성형 AI 응답 데이터 품질이 업무 활용 만족도에 미치는 영향을 분석하기 위해 독립변수로 시스템 품질(보안성, 편리성, 안정성), 정보 품질(완전성, 다양성, 신뢰성), 서비스 품질(전문성, 접근성)의 관점에서 도출하였다. 매개변수와 종속변수로는 지각된 유용성, 만족도, 지각된 사용용이성, 지속적 사용의도로 하였으며 각 변수에 대한 조작적 정의 및 측정 항목은 다음의 <표 1>과 같다.
본 연구는 LLM 기반의 생성형 AI 응답 데이터 품질이 업무 활용 만족도에 미치는 영향에 대하여 조사하기 위해 리커트 7점 척도의 설문지를 사용하였다. 온라인 설문을 통해 203부의 표본을 수집하였고, 그 중 유효 표본 195부의 설문 응답을 실증분석에 이용하였다.
본 연구는 LLM 기반의 생성형 AI 응답 데이터를 실제로 업무에 활용해본 직장인을 대상으로 설문조사를 수행하였으며 195개의 유효 표본으로 실증 연구를 수행하였다. 기존 생성형 AI와 관련된 연구가 대부분 ChatGPT 같은 서비스의 수용의도나 사용의도, 기술 자체에 관한 연구에 집중된 반면 본 연구는 응답 데이터의 품질을 중심으로 연구를 수행하였다. 이것은 응답 데이터를 실제 업무에 활용해본 직장인을 대상으로 만족도 및 지속적 사용의도에 영향을 미치는 요인에 대한 실증적 연구를 수행하였다는 점에서 의의가 있다.

대상 데이터

본 연구는 LLM 기반의 생성형 AI 응답 데이터 품질이 업무 활용 만족도에 미치는 영향에 대하여 조사하기 위해 리커트 7점 척도의 설문지를 사용하였다. 온라인 설문을 통해 203부의 표본을 수집하였고, 그 중 유효 표본 195부의 설문 응답을 실증분석에 이용하였다. 회수된 설문 분석을 위해 SPSS 22.
본 연구는 LLM 기반의 생성형 AI 응답 데이터를 실제로 업무에 활용해본 직장인을 대상으로 설문조사를 수행하였으며 195개의 유효 표본으로 실증 연구를 수행하였다. 기존 생성형 AI와 관련된 연구가 대부분 ChatGPT 같은 서비스의 수용의도나 사용의도, 기술 자체에 관한 연구에 집중된 반면 본 연구는 응답 데이터의 품질을 중심으로 연구를 수행하였다.

데이터처리

온라인 설문을 통해 203부의 표본을 수집하였고, 그 중 유효 표본 195부의 설문 응답을 실증분석에 이용하였다. 회수된 설문 분석을 위해 SPSS 22.0 프로그램을 이용하여 응답자 현황을 인구통계학적 특성으로 분석 하였으며, 탐색적 요인분석과 내적 일관성 분석을 통해 변수의 타당성과 신뢰성을 검증하였다.
주성분 분석(PCA, Principle component analysis), 베리맥스(Varimax) 방법을 활용한 탐색적 요인분석을 실시하였으며 신뢰도 분석을 위해 크론바흐 알파(Cronbach’s alpha) 계수를 사용하였다
본 연구는 LLM 기반의 생성형 AI 응답 데이터 품질에 대해 사용자가 만족도를 느끼고 업무에 지속적으로 사용하게 되는 과정을 규명하는데 초점을 두었다. 이를 위해 연구모형에서 제시된 각 변수 간의 영향관계인 가설 검정을 위한 다중회귀분석(Multiple regression analysis)을 실시하였다. 잠재변수에 대한 결정계수(R2) 값이 지각된 사용용이성과 독립변수 간의 관계를 제외하고는 모두 0.

성능/효과

첫째, 지각된 사용용이성에 편리성, 안정성, 다양성, 전문성, 접근성은 정(+)의 영향을 미치는 것을 확인하였다. 반면, 보안성, 완전성, 신뢰성은 부정(-)의 영향을 미치는 것을 확인하였다.
둘째, 지각된 유용성에 보안성, 편리성, 다양성, 신뢰성, 전문성, 접근성은 정(+)의 영향을 미치는 것을 확인하였다. 반면, 안정성, 완전성은 부정(-)의 영향을 미치는 것을 확인하였는데, 이것은 지각된 유용성에 유의한 영향을 미치기 위해서는 안정성, 완전성을 혁신해야 한다는 것을 보여준다.
셋째, 지각된 사용용이성과 지각된 유용성은 만족도에 정(+)의 영향을 주었고, 지각된 사용용이성, 지각된 유용성, 만족도 모두 지속적 사용의도에 정(+)의 영향을 주었다. 이것은 응답 데이터가 전문적이고 접근하기 편리해서 별다른 노력 없이도 필요한 정보를 쉽게 얻을 수 있으며, 응답 데이터 활용에 만족하기 때문에 업무 성과를 내는데 지속적으로 사용되고 있음을 보여준다.

후속연구

첫째, 본 연구에서는 사용자의 지속적 사용의도를 분석하기 위해 전통적인 TAM 및 IS Success 모델을 적용하였지만 최근 인공지능 기술수용과 관련된 모델을 활용하여 보다 설명력을 높일 필요가 있다.
둘째, 본 연구의 결과로 응답 데이터 품질에 영향을 미치는 요인을 통해 지속적 사용의도에 대한 영향력을 확인하였으니, 향후에는 본 연구에서 부분적으로 기각된 보안성, 신뢰성을 중심으로 보다 심도 있는 연구를 수행해 볼 필요가 있다.
셋째, 인과 관계를 확인하기 위하여 다중 회귀분석을 사용하였으나, 향후 연구에서는 구조방정식과 같은 다양한 연구 방법을 적용할 필요가 있다.

참고문헌 (30)

Shanahan,M., "Talking about large language models", 2022.？
Gozalo-Brizuela,R., E. C. Garrido-Merchan, "A survey of generative AI applications", 2023.？
J. Yao, K. Ning, Z. Liu, M. Ning, and L. Yuan, "Llm lies: Hallucinations are not bugs, but features as adversarial examples", arXiv preprint arXiv:2310.01469, 2023.？
Yao,Y., J. Duan, K. Xu, Y. Cai, Z. Sun, and Y. Zhang, "A survey on large language model (LLM) security and privacy: The good, the bad, and the ugly", 2023.？
Gozalo-Brizuela,R., E. Garrido-Merchan, "ChatGPT is not all you need. A state of the art review of large generative AI models", 2023.？
"Generative AI: Perspectives from stanford HAI", Standford University, 2023.？
Zhao,W. X., K. Zhou, J. Li, T. Tang, X. Wang, Y. Hou, Y. Min, B. Zhang, J. Zhang, Z. Dong, Y. Du, C. Yang, Y. Chen, Z. Chen, J. Jiang, R. Ren, Y. Li, X. Tang, Z. Liu, P. Liu, J. Nie, and J. Wen, "A survey of large language models", 2023.？
D. Bahdanau, K. Cho, and Y. Bengio, "Neural machine translation by jointly learning to align and translate", arXiv preprint arXiv:1409.0473, 2014.？
Vaswani,A., G. Brain, N. Shazeer, N. Parmar, J. Uszkoreit, L. Jones, A. N. Gomez, and L Kaiser, "Attention is all you need", 2017.？
S. Feuerriegel, J. Hartmann, C. Janiesch, and P. Zschech, "Generative ai", Business & Information Systems Engineering, vol.66, no.1, pp.111-126, 2024.？

상세보기
"Generative AI could raise global GDP by 7%", Goldman Sachs, 2024.05.15. https://www.goldmansachs.com/intelligence/pages/generative-ai-could-raise-global-gdp-by-7-percent.html？
A. Choudhury, H. Shamszare, "Investigating the impact of user trust on the adoption and use of ChatGPT: Survey analysis", Journal of Medical Internet Research, vol.25, pp.e47184, 2023.？

상세보기
이동영. (2024). "ChatGPT 지속사용의도에 관한 연구", 「국내박사학위논문」, 동의대학교 대학원.？
신재형. (2024). "인공지능(AI) 학습데이터의 수집 및 이용에 대한 규제", 「국내박사학위논문」, 서울대학교 대학원.？
F. D. Davis, R. P. Bagozzi, and P. R. Warshaw, "User acceptance of computer technology: A comparison of two theoretical models", Management Science, vol.35, no.8, pp.982-1003, 1989.？

상세보기
A. Bhattacherjee, "Understanding information systems continuance: An expectation-confirmation model", MIS Quarterly, vol.25, no.3, pp.351-370, 2001.？

상세보기
W. H. DeLone, E. R. McLean, "Information systems success: The quest for the dependent variable", Information Systems Research, vol.3, no.1, pp.60-95, 1992.？

상세보기
L. F. Pitt, R. T. Watson, and C. B. Kavan, "Service quality: A measure of information systems effectiveness", MIS Quarterly, vol. 19, no.2, pp.173-187, 1995.？

상세보기
박인근. (2016). "기업의 영업지원 소프트웨어 사용 성과에 영향을 미치는 요인에 관한 실증적 연구 : 정보시스템 성공 모델 중심으로", 「국내박사학위논문」, 숭실대학교 대학원.？
유은정. (2020). "공유숙박 플랫폼의 품질특성이 한.중 이용자의 이용의도에 미치는 영향", 「국내박사학위논문」, 숭실대학교 대학원.？
문은경. (2022). "대학 원격수업 유형에 따른 지속사용의도에 대한 영향 요인 비교 연구", 「국내박사학위논문」, 고려대학교 대학원.？
Y. H. Al-Mamary, A. Shamsuddin, and N. Aziati, "The relationship between system quality, information quality, and organizati onal performance", International Journal of Knowledge and Research in Management & E-Commerce, vol.4, no.3, pp.7-10, 2014.？
박성준. (2012). "모바일 여행콘텐츠 정보품질이 지각된 유용성과 행동의도에 미치는 영향", 「국내박사학위논문」, 安養大學校.？
이승육. (2016). "농.수산물 이력추적 정보품질이 지속사용의도에 미치는 영향", 「국내박사학위논문」, 서울벤처대학원대학교.？
김광철. (2023). "플랫폼 품질속성이 고객만족과 재이용의도에 미치는 영향", 「국내박사학위논문」, 호서대학교 벤처대학원.？
P. Asubonteng, K. J. McCleary, and J. E. Swan, "SERVQUAL revisited: A critical review of service quality", Journal of Services Marketing, vol.10, no.6, pp.62-81, 1996.？

상세보기
임나윤. (2023). "기술수용모델을 적용한 전시관 가이드 품질이 지속이용의도에 미치는 영향", 「국내박사학위논문」, 공주대학교 대학원.？
최주원. (2021). "인공지능기반 스마트양식시스템의 수용의도에 영향을 미치는 요인에 관한 연구", 「국내박사학위논문」, 숭실대학교 대학원.？
박명준. (2022). "대학의 비대면 실시간 및 비실시간 교육서비스품질과 지속사용의도에 관한 연구", 「국내박사학위논문」, 서강대학교 경영전문대학원.？
J. F. Hair, "A Primer on Partial Least Squares Structural Equation Modeling (PLS-SEM)", Sage, 2017.

저자의 다른 논문 :

활용도 분석정보

상세보기

다운로드

내보내기

활용도 Top5 논문

해당 논문의 주제분야에서 활용도가 높은 상위 5개 콘텐츠를 보여줍니다.
더보기 버튼을 클릭하시면 더 많은 관련자료를 살펴볼 수 있습니다.

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증