У меня есть одна деформация, которая меня самого постоянно вводит в ступор.
Я не понимаю, что такое "плагины".
В смысле, вообще не понимаю.
Вот делает народ плагины для всяких торрент клиентов и асек - я не понимаю, как можно сделать "common-plugin".

Теперь по теме. С моей точки зрения, тебе инфраструктура для взаимо(дополняемых|заменяемых компонент).
Значит начать нужно с того, что описать, какие компоненты бывают и как их встраивать.

Си/Плюсы для этих целей подходят слабо. Разве что уж разделяемые библиотеки делать

Можно взять шину сообщений d-bus/аналоги.

В любом случае, мне кажется, начать нужно в любом случае с оформления высокоуровневого дизайна системы.

Например, было бы неплохо описать из каких компонент состоит твоя система, какая часть чем занимается.

Также интересным вопросом является вопрос, зачем вообще эта компонентная система нужна.
Подерживать другие платформы?
Писать драйвера?
Сделать другой GUI?

Можно начать с ответов на эти вопросы, как пример.