Його забанили в Китаї: український розробник створив ObfusCat — ШІ-помічник для кодування

Український розробник Павло Ширінських самотужки створив застосунок ObfusCat: AI Code Assistant.

Працює він на базі ChatGPT. За досить короткий час зміг зацікавити сотні активних користувачів, пережив хакерську атаку та навіть був забанений в Китаї.

Про це та інше розробник розповів в екслюзивних коментарях Highload.

Розкажіть трохи про себе та команду. Скільки людей працювало над проєктом? Який маєте досвід в розробці, над якими застосунками працювали раніше?

 

До цього працював над продуктами в аутсорсі та продуктових компаніях. Свій продукт розробляю вперше. В минулому розробляв аудіопродукти та маю 4 TEC Award номінації (це в професійному аудіо як Оскар в кіно). Їздив на номінації в Лос-Анджелес.

Я один в команді — як розробник, продукт менеджер та маркетолог. До моменту, коли зможу все робити сам йшов довго. Для цього мені знадобилось закінчити КПІ, Інститут прикладного системного аналізу по спеціальності ШІ.

 

Процес розробки. Скільки часу витратили на застосунок? Як він працює, що за технології використовували в розробці?

«А якщо ШІ зміг би працювати з кодом та не бачив би оригінальний код в той самий час?»

Коли я вперше спробував використовувати ChatGPT для написання коду, то зрозумів, що це змінює парадигму назавжди. Та залишалась одна невирішена, але дуже вагома проблема — проблема приватності коду при роботі з ШІ.

Одна за іншою виходили новини на TechCrunch, що Apple або Amazon забороняють використовувати моделі ШІ для написання коду, або що код продуктів Samsung почав з’являтись у відповідях ШІ. Не довго думаючи, до мене прийшла ідея продукту. “А якщо ШІ зміг би працювати з кодом та не бачив би оригінальний код в той самий час?”

Ідея в тому, що ШІ не потрібні оригінальні назви класів, функцій або змінних щоб давати правильну відповідь при написанні коду або автотестів, або коли він фіксить код.

Так і з’явивися ObfusCat: AI Code Assistant

Обмеження Apple

Розробка MVP зайняла близько трьох місяців. Та ще декілька тижнів допилював додаткові функції.

Найскладніше було працювати з обмеженнями, які накладає Apple в процесі нотирізації додатку для розповсюдження на AppStore. Наприклад, є дуже вагомі обмеження щодо доступу до системи користувача.

Щоб парсити Python або JavaScript код було б легше мати доступ до Python або Node.js на машині користувача, але Apple це забороняє і треба було перероблювати цілі бібліотеки щоб запустити їх в ізольованому додатку. Цей продукт перший на AppStore з такими функціями, тому розробляти концепцію та деякі технології доводилось вперше.

В застосунку працюють три кастомні розроблені майже з нуля парсери, які знаходять те, що треба замінити в коді.

• Один парсер чутливий до синтаксису тому працює тільки при імпорті тексту з кодових файлів.
• Два інших не чутливі до синтаксису та можуть працювати напряму з запросами в вільній формі.

Не знаю кому це було потрібно, але одну з перших версій продукту було хакнуто і знадобилось трохи часу, щоб закрити цю лазівку. Дані користувачів не постраждали, тому що додаток їх просто не збирає)

 

В App.Store побачив, що в 1.1.3 пропонувалася 7-денна безкоштовна пробна версія. Скажіть, чи можна зараз користуватися застосунком безплатно? Що пропонує підписка? 

 

На сьогодні підписка знімає всі обмеження щодо налаштувань та запитів:

• яку модель використовувати (можна навіть кастомну);
• який розмір контексту вона видаватиме (токени);
• скільки попередніх відповідей вона запам’ятовуватиме;
• на які теми відповідатиме;
• та найголовніше — змога використовувати свій API ключ до ChatGPT.

Це гарантує, що ніхто не матиме доступ до ваших запитів до OpenAI.

Одна з фіч цього продукту — нульовий доступ до персональних даних користувача.

Є тріал на перші три дні коли активується підписка. Безкоштовна версія дає змогу потестувати додаток з обмеженнями по обсягу запитів до моделі, яка по замовчуванню — GPT-3.5 Turbo.

 

Ну й трохи банального. Яких показників досягнули за цей час (користувачі/підписки)? Що плануєте робити далі?

 

За цей час було досягнуто показників сотень активних користувачів по всьому світу, але найбільше всього в США.

Китай офіційно забанив цей додаток — вважаю це теж досягненням в сфері збереження приватності даних, тому що це як лакмусовий папір.

Планую далі додавати фічі, які просять користувачі через зворотний зв’язок. Довгострокова родмапа — підтримка більшої кількості постачальників моделей для роботи з кодом. На сьогодні ChatGPT 4 — найпотужніша модель в світі за відкритими даними, тому якщо Llama 2 Code розвинеться швидше за ChatGPT, то підтримка не забариться.

Це вже неактуально: бос Nvidia Дженсен Хуанг закликав перестати вчити мови програмування

ШІ-копілоти, чат-боти та віртуальні помічники для написання коду. Які бувають і що можуть

Протягом наступних п’яти років у кожного з’явиться свій ШІ-помічник — співзасновник Google DeepMind