Việc giải một bài toán, trước hết ta nên xem xét đó là một bài toán về định tính (thường là các bài về chứng minh) hay bài toán về định lượng (các bài liên quan đến tính toán).
Với các bài về tính toán, mọi việc có vẻ như không khó lắm (tất nhiên là với 1 số người thôi) vì hầu hết đều có những công thức hay cách tính. Ví dụ như tính tổng, tích các số phức, ma trận, tính định thức, giải hệ phương trình, tính lim... Nó đều có những công thức và phướng pháp, cách tính, nên chỉ cần nắm vững các công thức (học thuộc), vận dụng một cách phù hợp (điều này chỉ có được khi đã làm bài tập nhiều, có thể bằng cách này không ra nhưng cách khác sẽ ra nên đòi hỏi phải kiên trì, chịu khó).
Nhưng với các bài tập về chứng minh thì mọi việc có vẻ khó khăn hơn (cho mọi người). Khi gặp một bài về chứng minh thì trước hết cần phân tích kỹ đề bài để xác định đâu là giả thiết, đâu là kết luận (đặc biệt chú ý các bài có cụm từ như "khi và chỉ khi" vì nó có 2 ý, giả thiết trong ý này sẽ là kết luận trong ý kia và ngược lại). Sau đó phân tích "để chứng minh được kết luận thì đòi hỏi phải có những gì?", điều này chỉ có thể làm được nếu như nắm vững được định nghĩa và các định lý liên quan trước đó. Sau đó cố gắng liên kết giả thuyết với những yêu cầu cần có đó. Liên kết được thì coi như ta đã đạt được 80% bài giải rồi, 20% còn lại chỉ là cách trình bày sao cho bài toán hay và hợp lý.
Ví dụ: cho một ma trận A thỏa điều kiên (1), chứng minh ma trận đó khả nghịch. Khi đó, giả thiết là ma trận A đã cho đã có tính chất (1), kết luận là ma trận A khả nghịch. Một ma trận là khả nghịch, theo định nghĩa là sẽ tồn tại một ma trận B sao cho AB = BA = E. Vậy, nếu muốn chứng minh theo cách dùng định nghĩa, ta phải chỉ ra (bằng bất cứ cách nào) là có một ma trận B như thế (nghĩa là phải chỉ cụ thể ma trận B như thế nào), khi đó phải dựa vào tính chất (1) mà giả thiết đã cho. Còn nếu theo định lý, ma trận A khả nghịch nếu det(A) khác 0. Vậy chỉ cần tính det(A) và chỉ ra rằng đó là một số (cụ thể nào đó) khác 0, điều này cũng phải dựa vào giả thiết các tính chất (1). Khi đó bài chứng minh kết thúc. Việc chứng minh như vậy cũng có nhiều cách để làm, nhưng không phải mọi cách lúc nào cũng dùng được, có những bài chỉ có thể dùng 1 cách, nhưng cách khác dùng không được. Nên câu hỏi đặt ra là làm sao biết nên dùng cách nào trong trường hợp cụ thể nào? Câu này phụ thuộc vào chính kinh nghiệm của những người làm Toán, đạt đến trình độ có thể nắm bắt nhanh chóng các yêu tố để chọn hướng chứng minh. Nên rất mong các bạn khi học cần phải siêng năng làm các bài tập để tích lũy kinh nghiệm (ở cả việc chứng minh lẫn việc tính toán).
Lời cuối, thật sự không có bài toán khó, chỉ có những bài toán mình chưa giải được hoặc không giải được mà thôi. Chỉ cần có cố gắng, mọi bài toán sẽ đều là đơn giản.
Lưu ý: Nếu hỏi về việc học tập xin post bài ở mục "Các chuyên ngành", mục "Hướng dẫn" là để post các bài liên quan đến việc sử dụng diễn đàn thôi.