Из музыкальной энциклопедии:" АНСАМБЛЬ (от франц.ensemble-вместе)-группа исполнителей,выступающих совместно.В зависимости от числа участников различают:дуэт,трио,квартет,квинтет т.д." В энциклопедии это число не ограничено,но больше,чем "нонет"(9) не встречается.Тем не менее можно к этой категории составов отнести и ВИА.А вот инструментальный состав менее 9 исполнителей "оркестром" считаться не может-это "ансамбль".Не имеющееся в словаре название "группа",надо полагать, относится не к музыкальным понятиям ,а к коммерческим предприятиям.