Создать двоичный файл и записать в него n целых чисел. Из файла сформировать массив, записав в него только кратные M значения, расположенные до минимального элемента в файле.
Программа вычисляет определитель матрицы, ранг матрицы, находит обратную матрицу, решает систему линейных уравнений. Зачем это все вычислять самим, если есть специальные программы :)....