Закрыть

Страница поста от канала Quantum Quintum

Quantum Quintum
13.09.2021 12:09
В продолжение темы Github Copilot. Как вы помните, активисты открытого кода жаловались, что мол Copilot обучался на всей базе кода в гитхабе и, вероятно, не все авторы кода с этим были согласны, хотя, наверняка, нарушения лицензий не было. Еще одна "темная" сторона этого ассистента в том, что обучаясь на примерах в GitHub можно научиться не только хорошему: выстраивая автоматически лингвистическую модель, вы автоматом внесете в нее и баги из обработанного кода. Что поднимает уже другой вопрос: насколько полезным является такой "помощничек"? Исследовали прогнали копилот через 89 разных сценариев, произведя 1692 программ. Из них 40% содержали уязвимости. [1] === Это, конечно, не означает, что все ООООЧЕНЬ плохо, потому что понятно, что качество кода будет постепенно повышаться. Но оставляет множество открытых вопросов: Что является индустриально приемлемым порогом? Например, является ли это лучше, чем код, вставленный из StackOverflow? А если копилот будет в среднем выдавать более релевантный и безопасный код? Но в контекста - меньше сопротивления, проще согласиться, если сразу компилируется. Или все же нужна гарантия надежности? Но тогда нужен совсем другой подход. Но зато массовое снижение порога входа, программистов-то не хватает. Ну и т.п. Когда можно ожидать намеренных инъекций вредного кода через такие открытые проекты? Понятно, что закладки уже сейчас ставят, но пока, кажется, не было намеренных действий, влияющих на штуки типа копилота, обычно это завуалированные (спрятанные) фрагменты. Но можно ли хакнуть обучающую систему, чтобы она массово новичкам выдавала вредный, но работающий код? SQL Injection? Нет не слышал. (Байка: во времена расцвета PHP, форумов и всяких вордпрессов выросло целое поколение "разработчиков", работающих в модели copa-paste по инструкции. Типа "найдите вот такую строчку в этом файле и сразу после нее вставьте вот эту конструкцию". Кажется, это был прообраз этой проблемы.) При всей благозвучности идеи, какое минимальное требование к разработчику для осознанного использования инструмента? Например, можно ожидать, что эта штука станет основой no-code разработки (уже), но привет корпоративной безопасности. С другой стороны, можно ли такой копилот давать в руки школьнику, который только учится? Или только строгий академический подход + попутный "ручной" анализ безопасности кода? Или наоборот, ребенку чем проще и быстрее результат, тем круче - больше шансов, что втянется, а разработчиков-то не хватает. А, может, копилоты - только в песочницах? В общем, много вопросов. :) === [1] https://arxiv.org/abs/2108.09293 === С днем программиста!

Обращаем внимание, что мы не несем ответственности за содержимое(content) того или иного канала размещенный на нашем сайте так как не мы являемся авторами этой информации и на сайте она размещается в автоматическом режиме


Вы не ввели Email
Вы не ввели текст комментария

Путь репера Ганвест, порнография, прямая бочка, трэп и успех

#Заметка

Лейбл Zhara Music может похвастаться не только артистами в топах всевозможных стриминговых сервисов, но и певцом, актером и просто...

17.02.2019

Большой Фестиваль Роботов @festivalrobotov впервые в Краснодаре - в OZ Mall с 2 марта! Такого ты никогда не видел!

- Новейшие роботы с презентации в Лас-Вегасе
- Арена с 7 разными техношоу
- Красная...

08.02.2019

Муж Даши Коноваловой - Кирилл Шейхаметов, сын основателя "Якитории" и уже год как партнера Павла Те Олега Шейхаметова. Папа застраивает 1-ю Институтскую улицу рядом с Нахабино, сын - дарит Даше пятикаратники)...

06.02.2019

выгрузка ЕСКЛП публикуется по мере обновления ЕСКЛП на FTP-сервере ftp://ftp.esklp.rosminzdrav.ru/ (справочно), для FTP-сервера: Логин: esklp_xls, Пароль: bUUZSZ6e. Берете файлы с названием esklp-smnn...

24.01.2019

MySQL и БИТовое И
Как я строил связь много ко многим через «БИТовое И».
Задача: сделать отношение между категориями и продуктами БЕЗ промежуточной таблицы (такова специфика архитектуры). Один продукт может...

05.10.2018

Не полное ТЗ: Углы прямые, трубы параллельны. Что не так-то? #юмор

28.09.2018

Как найти все сообщения в чате от одного участника

Откройте поиск, нажмите на иконку "человека" и введите @юзернейм или имя пользователя.
Так вы сможете просмотреть всю историю сообщений участника.

21.06.2018

Возможно Вас заинтересует еще и это: