최소 단어 이상 선택하여야 합니다.
최대 10 단어까지만 선택 가능합니다.
다음과 같은 기능을 한번의 로그인으로 사용 할 수 있습니다.
NTIS 바로가기국가/구분 | 한국(KR)/공개특허 | |
---|---|---|
국제특허분류(IPC8판) |
|
|
출원번호 | 10-2020-0131666 (2020-10-13) | |
공개번호 | 10-2021-0127587 (2021-10-22) | |
우선권정보 | 대한민국(KR) 1020200045575 (2020-04-14) | |
DOI | http://doi.org/10.8080/1020200131666 | |
발명자 / 주소 |
|
|
출원인 / 주소 |
|
|
대리인 / 주소 |
|
|
법적상태 | 공개 |
언어 모델 학습 장치 및 방법이 개시된다. 일 실시예에 따른 언어 모델 학습 장치는, 하나 이상의 학습 대상 문장 내 단어의 종류 및 순서가 반영된 복수의 임베딩 토큰을 포함하는 임베딩 토큰 셋을 획득하는 획득부; 기 정의된 순서 변경 규칙에 기초하여 상기 임베딩 토큰 셋에 포함된 복수의 임베딩 토큰 중 적어도 일부의 순서가 변경된 스위치 토큰 셋을 생성하는 생성부; 및 상기 스위치 토큰 셋에 기초하여 언어 모델을 학습시키는 모델 학습부를 포함한다.
하나 이상의 프로세서들, 및상기 하나 이상의 프로세서들에 의해 실행되는 하나 이상의 프로그램들을 저장하는 메모리를 구비한 컴퓨팅 장치에서 수행되는 방법으로서,하나 이상의 학습 대상 문장 내 단어의 종류 및 순서가 반영된 복수의 임베딩 토큰을 포함하는 임베딩 토큰 셋을 획득하는 단계;기 정의된 순서 변경 규칙에 기초하여 상기 임베딩 토큰 셋에 포함된 복수의 임베딩 토큰 중 적어도 일부의 순서가 변경된 스위치 토큰 셋을 생성하는 단계; 및상기 스위치 토큰 셋에 기초하여 언어 모델을 학습시키는 단계를 포함하는, 언어 모델 학습 방법.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.