система, в которой при определённых условиях возникают незатухающие колебания, исходящие от уровня флуктуаций в её элементах при отсутствии внешнего возбуждения. Для системы неустойчивой нарушаются известные критерии устойчивости.