openaiAPI(2)
-
[Node.js_4기] 최종프로젝트 2주차_day5_부하테스트와 정신나갈것 같은 api 요청 한계 (24/04/07)
목차 1. 문제 2. 시도 3. 결과 4. 배운점 1. 문제 이전에 작성했던 코드가 artillery 시나리오 테스트를 전혀 통과하지 못하는 문제 발생. public async processImageAndManageDiet( processImageAndManageDietDto: ProcessImageAndManageDietDto, ): Promise { const imageText = await imageToText(this.openai, { prompt: processImageAndManageDietDto.imageUrl, }); const csvDataArray = await this.readLocalCsv(); const csvDataString = JSON.stringify(csvDataArray..
2024.04.07 -
[Node.js_4기] 최종프로젝트 2주차_day4_API 작업 (24/04/04)
목차 1. 문제 2. 시도 3. 결과 4. 배운점 1. 문제 gpt 4 -> 덜창의적인 작업에서, 훨씬 느린 성능을 보여줌. 간단한 작업에 대해선 gpt3.5turbo를 쓰는게 훨씬 경제적으로 보임. 번역 : gpt3.5 = 1.48s/gpt4-turbo-preview = 3.73 imageToText / withCsv / translate 3스텝으로 하는건 별로인것 같음. 5.37(2스텝) vs 4.33+1.48(3스텝) 한번에 합쳐서 테스트 해볼 예정. import * as csv from 'csv-parser' -> 전체를 가져온다. import csv from 'csv-parser' -> default를 가져온다. 2. 시도 docker에 올려서 시도해본 결과. public async dietMa..
2024.04.04