AI의 강력함 활용하기 - CodeDroidAI (델파이 용)

[RAD]

• 원문제목: Harness The Power Of AI With CodeDroidAI For Delphi
• 원문: https://blogs.embarcadero.com/harness-the-power-of-ai-with-codedroidai-for-delphi/
• 작성자: Eli M. (MVP) (2023.8)

 

In the ever-evolving landscape of software development, automation tools that increase efficiency have always been a golden grail. And with the rise of powerful AI models like ChatGPT, Llama 2, and Vicuna-13b, the dream of instant code generation and form creation is close to reality. CodeDroidAI is desktop client for Delphi and C++Builder developers that allows you to generate Object Pascal and C++ code using large language models.

끊임없이 진화하는 소프트웨어 개발 시장에서, 효율성을 높여주는 자동화 도구는 늘 가장 이루고 싶은 목표로 여겨진다. 챗GPT, Llama 2, Vicuna-13b 등 강력한 AI 모델이 등장하면서, 즉각적인 코드 작성과 폼 생성이 가능한 세상이 가까워지고 있다. CodeDroidAI는 델파이, C++빌더 개발자를 위한 데스크탑 클라이언트로, 대규모 언어 모델(LLM)을 사용해 오브젝트 파스칼과 C++ 코드를 작성할 수 있는 도구이다.

 

목차

LLM이란 무엇일까?

CodeDroidAI란 무엇일까?

민감한 정보가 포함되어 있는 코드 입력의 안전성 유지를 위해 언어 모델을 온프레미스에서 로컬로 실행하려면 어떻게 해야 할까?

CodeDroidAI를 고려해야 하는 이유는?

여러분의 코딩에 AI를 통합할 준비가 되었다면?

AI를 활용한 데스크탑 및 모바일 앱 구축에 대한 더 자세한 내용이 궁금하다면?

---

 

LLM이란 무엇일까?

A Large Language Model (LLM) is a type of artificial intelligence (AI) model designed to understand, generate, and manipulate human language. Trained on vast amounts of text data, LLMs can generate coherent, contextually relevant sentences, and offer answers or solutions based on the patterns they’ve recognized from their training data. Their vast size, often comprising billions of parameters, allows them to store an immense amount of information and linguistic nuances. This capability makes LLMs valuable for a range of applications including natural language processing, chatbots, content generation, and more. Models like OpenAI’s GPT (Generative Pre-trained Transformer) series are prime examples of LLMs that have showcased the potential and capabilities of these advanced AI systems.

대규모 언어 모델(LLM)은 인공 지능(AI) 모델의 한 유형으로 인간의 언어를 이해하고, 생성하고, 조작하도록 설계되어있다. 방대한 양의 텍스트 데이터로 학습된 LLM은 일관되고 문맥에 맞는 문장을 만들 수 있고, 학습 데이터를 통해 인식한 패턴을 기반으로 답변하거나 해결책을 제시한다. 수십억 개의 매개변수로 이루어져있는 LLM은 그 거대한 크기 덕분에 엄청난 양의 정보와 언어 늬앙스를 저장할 수 있다. 이를 통해 LLM은 자연어 처리, 챗봇, 컨텐츠 생성 등 다양한 분야에서 유용하게 활용되고 있다. OpenAI의 GPT(Generative Pre-trained Transformer) 시리즈와 같은 모델은 이와 같은 고급 AI 시스템의 잠재력과 기능을 보여주는 LLM의 대표적인 예이다.

 

CodeDroidAI란 무엇일까?

CodeDroidAI is not just another code generation tool. It’s a powerful UI that uses leading Language Learning Models (LLMs) to seamlessly generate and validate code for Delphi. Let’s dive into its features:

CodeDroidAI는 단순한 코드 생성 도구가 아니다. 선도적인 언어 학습 모델(LLMs)을 사용해 델파이용 코드를 원활하게 생성하고 검증할 수 있는 강력한 UI이다. 그 기능들 자세히 살펴보겠다:

1. 전체 코드 생성:
   • 프로시저 생성
   • FMX와 VCL 폼 생성 - VCL폼을 FMX로 변환할 수 있는 추가 기능 제공
   • 코드 최적화 및 인라인 어셈블리 변환 (델파이)
   • 여러 코딩 간 언어 변환 - 델파이에서 볼랜드 C++로, FPC에서 델파이로 등
      
2. 코드 품질 보증:
   • 델파이 코드를 인터페이스에서 바로 컴파일 및 검증하고 오류 보고서를 언어 모델로 바로 전송
   • 코드 분석으로 더 수준 높은 이해와 인사이트 가질 수 있음
   • 코드에 대한 코멘트로 가독성을 높임
   • 델파이 ANSI 코드를 Unicode로 업그레이드해 최신 호환성 보장
      
3. 거의 대부분을 지원:
   • gpt-3.5-turbo-16k부터 fastervicuna_13b 까지 CodeDroidAI는 다양한 모델을 지원해, 작업에 가장 적합한 AI 활용 가능. 다음과 같은 언어 모델이 지원됨:
     • gpt-3.5-turbo-16k
     • gpt-4
     • vicuna-13b
     • gpt4all
     • falcon-40b-instruct
     • llama70b-v2-chat
     • llama13b-v2-chat
     • freewilly2
     • fastervicuna_13b
     • 등등!
   • 현재로서는 gpt-3.5-turbo와 gpt-4 등 OpenAI가 제공하는 모델이 최고의 코딩 생성 성능을 제공하지만 개방형 모델이 빠르게 따라잡고 있다. gpt-3.5-turbo-16k와 gpt-4-32k 모델은 일반적인 gpt-3.5-turbo보다 더 많은 입출력을 처리할 수 있는 기능을 제공한다.
      
4. 플랫폼 유연성:
   • 델파이 파이어몽키 프레임워크 덕분에, CodeDroidAI는 윈도우, 맥OS, 리눅스에서 효율적으로 실행할 수 있는 크로스 플랫폼 환경을 제공한다. 코드 유효성 검사는 msbuild가 필요해 윈도우에서만 가능하다.
      
5. 통합 REST API 기능:
   • OpenAI.com (챗GPT)와 Replicate.com 등 유명 플랫폼과 통합되어 있다는 점이 특징인 CodeDroidAI는 원활한 소스 코드 생성 기능을 제공한다. CodeDroidAI의 기능을 최대한 활용하려면, 개발자는 기능 액세스를 위한 API 키를 등록해두어야 한다. 자동화된 AI 기반 코드 생성 세계를 자세히 알아보기에 앞서 이 점을 염두해 두길 바란다.
   • 데이터 보안에 관심있는 사용자를 위해, Replicate 모델은 Docker를 통해 로컬에서 실행 가능한 옵션도 제공한다.
      
6. 내장 템플릿 시스템:
   • 다용도 템플릿 시스템으로 코드 생성을 위한 프롬프트 템플렛을 추가해 사용자 지정 및 적응성을 높일 수 있다.

 

 

 

민감한 정보가 포함되어 있는 코드 입력의 안전성 유지를 위해 언어 모델을 온프레미스에서 로컬로 실행하려면 어떻게 해야 할까?

The language models hosted on Replicate.com can also be run locally. Here is an example of how to run Vicuna 13b locally on a machine with a GPU. The CodeDroidAI client could then query the Docker instance instead of Replicate.com directly.

Replicate.com에서 호스팅되는 언어 모델은 로컬에서도 실행 가능하다. 아래 예제는 GPU가 있는 컴퓨터에서 Vicuna 13b를 로컬로 실행하는 모습을 보여준다. CodeDroidAI 클라이언트는 Replicate.com 대신 Docker 인스턴스를 직접 쿼리할 수 있다.

docker run -d -p 5000:5000 --gpus=all r8.im/replicate/vicuna-13b@sha256:6282abe6a492de4145d7bb601023762212f9ddbbe78278bd6771c8b3b2f2a13b
curl http://localhost:5000/predictions -X POST -H "Content-Type: application/json" 
  -d '{"input": {
    "prompt": "...",
    "max_length": "...",
    "temperature": "...",
    "top_p": "...",
    "repetition_penalty": "...",
    "seed": "...",
    "debug": "..."
  }}'

 

CodeDroidAI를 고려해야 하는 이유는?

The beauty of CodeDroidAI lies in its ability to combine AI prowess with practical coding demands. Whether you’re a seasoned Delphi developer looking to convert legacy ANSI code or someone looking for a quick way to generate a functional form, CodeDroidAI can be the tool to simplify and amplify your coding journey. You can customize and build your own prompts using the templating system to suit your needs.

CodeDroidAI의 장점은 AI 능력과 실용적인 코딩 요구를 결합한다는 점이다. 레거시 ANSI 코드를 변환하고자 하는 숙련된 델파이 개발자이든, 기능형 폼을 빠르게 생성하려고 하는 누군가이든, CodeDroidAI는 코딩 과정을 줄여주고 수준을 향상시켜줄 도구가 될 수 있다. 템플릿 시스템을 사용해 필요에 맞게 자신만의 프롬프트를 원하는대로 지정하고 구축할 수 있다.

 

여러분의 코딩에 AI를 통합할 준비가 되었다면?

AI in software development is no longer a fancy futuristic concept – it’s here, and with tools like CodeDroidAI, it’s reshaping how we perceive and execute coding tasks. As AI continues to mature, embracing tools that leverage its capabilities is not just recommended, it’s essential.

소프트웨어 개발에서 AI는 더 이상 먼 미래의 것이 아니다. 이미 현실이 되었으며, CodeDroidAI와 같은 도구를 통해 코딩 작업을 인식하고 실행하는 방식을 바꾸고 있다. AI가 계속해서 발전함에 따라, 이를 활용하는 도구를 도입하는 것은 권장이 아닌 필수 사항이다.

CodeDroidAI는 현재(2023년 8월) 윈도우용 바이너리 다운로드와 델파이 최신 버전에서 사용 가능한 전체 소스 코드를 제공한다.

윈도우용 CodeDroidAI 바이너리 다운로드

 

AI를 활용한 데스크탑 및 모바일 앱 구축에 대한 더 자세한 내용이 궁금하다면?

Join use for Coding Bootcamp 2023! This is the ultimate free boot camp for anyone who wants to learn to program. Our instructors are computer science educators and other developer experts from around the world, you can be confident that you’re getting the absolute best learning experience possible.

Coding BootCamp 2023에서 만나볼 수 있다! 프로그래밍을 배우고 싶은 분들을 위한 최고의 무료 부트 캠프이다. 전 세계 컴퓨터 사이언스 전문가 및 개발 전문가로 구성된 스피커들이 최고의 학습 경험을 제공한다.

부트 캠프는 다음주 월요일, 8월 14일부터 금요일, 8월 18일까지 진행된다. 지금 Coding BootCamp 2023에 등록하자!

 

[c2design]

Chat GPT Open API 사용시 키발급 방법 소개 및 관련 샘플 링크