Kritis Membaca Riset (Berita tentang suatu Riset):”Religious Kids Are More Selfish Than Non-Religious Kids, Study Says” (bag 2).

Pada bagian 2 ini saya akan membahas sedikit seperti apa riset yang diacu oleh berita di atas.    Baiklah mari kita mulai dengan melalui 3 tahapan mengkritisi berita tentang hasil riset terlebih dulu: 

1. Apakah ada penelitiannya? Ya. Berita itu didasarkan pada penelitian yang benar-benar ada dan dapat diakses serta dibaca. Terbit di jurnal Current Biology, tahun 2015, dengan no doi sebagai berikut:  http://dx.doi.org/10.1016/j.cub.201...  (DOI: digital object identifier). 
2. Siapa penerbitnya dan apakah ini peer-reviewed journal? Jurnal ini diterbitkan pertama kali oleh kelompok Current Science pada tahun 1991, kemudian diambil alih oleh Elsevier di tahun 1998 dan menjadi bagian dari Cell Press sejak tahun 2001 (sumber: wikipedia, link:https://en.wikipedia.org/wiki/Curre...). Jurnal ini merupakan jurnal yang peer-reviewed. Impact factor-nya tergolong lumayan besar (9.571 di tahun 2014). Jadi bisa dibilang jurnal ini merupakan terbitan yang lumayan bergengsi. Apakah ini berarti kita bisa percaya sepenuhnya isi dari artikel ini? Tidak juga. Kita perlu baca isinya lebih detil. 

Nah saya sudah membacanya beberapa waktu lalu dan sempat mendiskusikannya dengan beberapa teman. Ada beberapa poin catatan yang saya peroleh dari bacaan ini:

• Artikel ini masih in press, jadi yang dapat diakses baru bagian hasil penelitian dan diskusi dan kesimpulannya. Oleh karena itu cukup banyak hal yang belum jelas terkait dengan prosedur lengkap dalam penelitian ini. 

• Metode yang digunakan semi-survey (meskipun dalam artikel dituliskan ada prosedur eksperimen. Namun demikian sebenarnya tidak ada manipulasi VI dan tidak ada random assignment). Rasanya memang tidak memungkinkan riset ini dijalankan dengan metode eksperimen. Oleh karena itu, seharusnya hubungan kausal antara variabel independen (VI) dan variabel dependen (VD) tidak dapat ditegakkan secara meyakinkan.  Namun demikian si penulis agak gegabah menggunakan kata affect atau bahkan influence yang mengindikasikan sebab-akibat. Meskipun tidak sepenuhnya salah, tetapi karena tidak adanya manipulasi VI, pembaca seharusnya diberi peringatan mengenai hal ini: validitas internal penelitian ini tidak terlalu meyakinkan.

• Definisi dari VI yang menurut saya tidak konsisten: Variabel Independen dalam penelitian ini apakah religion atau religious rearing environment? Ketidak-konsisten-an ini bisa berdampak pada validitas pengukuran-> anak ditanya tentang ia dibesarkan dalam keluarga apa atau apa agamamu? Saya pribadi belum bisa melihat bahwa pembedaan ini akan berdampak besar terhadap hasil penelitian. Tapi ini satu hal yang perlu dicatat juga rasanya. Altruisme juga sepertinya diukur hanya dengan menggunakan perilaku berbagi , yang mungkin akan menimbulkan pertanyaan tentang validitas konstruknya. ‘Meanness’ (semacam sifat kejam) tidak terlalu gamblang dijelaskan pengukuran seperti apa yang dilakukan dan bagaimana skor diperoleh.

• Peneliti melakukan beberapa analisis dalam penelitian ini. Mari kita lihat satu demi satu. Analisis yang pertama adalah uji-t sampel independen dari mean sharing (altruisme) antara mereka yang dibesarkan dalam lingkungan agama tertentu dengan yang ‘tidak beragama’. Hasil pengujiannya sangat signifikan dengan p lebih kecil dari 0.001. Namun demikian ada dua hal yang perlu dicatat: (1). Selisih mean antara yang religius (3.25) dan non-religius (4.11) sebesar 0.86. Dengan SD sebesar 2.46 (religius) dan 2.48 (non-religius), perbedaan mean sebesar itu dianggap masuk dalam kategori besaran efek yang kecil hingga medium (0.86/2.46=0.35, untuk kategori medium=0.4, kecil = 0.2). (2). Standard deviasinya cenderung besar untuk kedua kelompok. Ini menggambarkan tingkat variasi tergolong besar (Coefficient of Variation (CV)=2.46^2/3.25 = 1.86 untuk religius, jauh lebih besar dari .1 yang dianggap ‘wajar’). Ilustrasi dapat dilihat dalam gambar 1 (overlap antar dua kelompok cenderung besar). Dampak dari kondisi seperti ini (ukuran efek kecil dan besarnya SD) adalah masalah replikasi: pada penelitian replikasi bisa terjadi efek berbalik atau tidak ada efek.

• Permasalahan lain terkait dengan uji-t ini adalah pengecekan apakah data memenuhi asumsi baik distribusi maupun homogenitas varian. Untuk asumsi kedua, sekilas sepertinya tidak ada masalah karena perbedaan SD yang tidak terlalu besar. Namun demikian informasi mengenai bentuk distribusi ini penting karena jika bentuk distribusi kedua kelompok berkebalikan, maka sangat mungkin hasil yang diperoleh ‘menipu’ (seharusnya tidak signifikan tapi terlaporkan signifikan).

• Analisis berikutnya adalah regresi dengan model: Sharing = usia+negara asal+SES+religion identification (dummy coded). Sekali lagi religion identification memiliki koefisien yang signifikan (b=-.132 (standardized), p<.001). Dalam hal ini lagi-lagi tidak dicantumkan apakah ada pengecekan asumsi regresi. Ada sedikit masalah teknis dalam pelaporan penelitian ini: nilai b yang dilaporkan adalah standardized, disertai nilai p, padahal nilai b yang standardized belum ada cara untuk menguji-nya (sudah sih tapi belum populer). Nah tidak cukup jelas apakah memang peneliti menggunakan cara yang masih baru ini atau tidak. Jika tidak maka nilai yang dilaporkan keliru.

• Selain itu, nilai r kuadrat untuk keseluruhan model = 0.184. Ini berarti kemampuan model yang diajukan untuk menjelaskan variasi dari sharing (mengapa anak satu share lebih banyak dari yang lain) tergolong kecil: hanya 18.4% variasi saja yang dapat dijelaskan. Ini berarti religion identification akan memiliki kemampuan yang lebih kecil lagi. Selain itu, dapat dilihat bahwa age memiliki b = 0.39 yang berarti lebih besar daripada religion identification. Ini berarti usia memiliki peran lebih besar dibandingkan identifikasi keagamaan untuk menjelaskan variasi sharing pada anak.

• Analisis berikutnya adalah korelasi product moment antara altruism dengan frekuensi melakukan praktek religius (r=-0.161), spiritualitas dalam keluarga (r=-0.179), dan religiousness secara umum (r=-0.173). Ketiganya memperoleh nilai p < 0.001. Namun demikian, dapat dilihat juga bahwa angka korelasi antara ketiga variabel ini dengan altruisme tergolong kecil (|r|

• Analisis berikutnya kurang lebih memiliki masalah yang sama dengan yang sebelumnya: pengecekan asumsi yang kurang dipaparkan apakah telah dilakukan dan effect size yang kecil.

Nah saya sudah membacanya beberapa waktu lalu dan sempat mendiskusikannya dengan beberapa teman. Ada beberapa poin catatan yang saya peroleh dari bacaan ini:

Jadi? Ada beberapa hal yang perlu diperjelas dalam artikel tersebut untuk membuat hasil penelitian ini menjadi lebih meyakinkan. Agak terlalu dini untuk menyatakan penelitian ini salah atau benar. Namun demikian, terlepas dari indecisiveness saya, kiranya ada sikap-sikap yang lebih bijak dalam menyikapi hasil riset ini. Saya pribadi menyukai salah satu komentar dari teman yang menyatakan bahwa kita perlu introspeksi juga terkait hasil ini. Jangan-jangan kita memang mengajarkan / mensosialisasikan agama dengan cara yang keliru sehingga mungkin saja anak-anak kita justru jadi kurang altruis (Terima kasih, Mas David Agus Widarto atas komentarnya).

That’s all guys! Butuh waktu lama untuk berpikir dan menulis segini banyak. Buat saya pribadi, ini berarti memang tidak mudah menyusun argumen yang kokoh yang didasarkan pada temuan ilmiah yang dapat dipertanggungjawabkan. Tapi tentunya mudah sekali bikin argumen yang diramu dengan cucoklogi plus imajinasi nan liar tanpa kaidah logika yang memadai. Semoga tulisan ini bisa membantu negara dalam rangka mencerdaskan kehidupan bangsa... Amin.

Kritis Membaca Riset (Berita tentang suatu Riset):”Religious Kids Are More Selfish Than Non-Religious Kids, Study Says” (bag 1).

Beberapa waktu lalu saya sempat upload link berita mengenai hasil riset di atas. Tujuan saya yang utama adalah ... iseng... mohon maaf ... Saya ingin melihat reaksi teman-teman ketika membaca berita tersebut. Sayangnya memang tidak banyak yang memberikan respon. Entah karena timing nya kurang pas atau memang tidak terlalu menarik atau terlalu ‘menantang’.  Keinginan atau keisengan ini muncul karena cukup sering saya membaca teman-teman share tentang berita mengenai suatu riset begitu saja tanpa mengkritisi-nya dengan baik, termasuk mengevaluasi apakah memang berita mengenai riset tersebut pantas dikonsumsi / dipercayai.  Dan komentar-komentar yang muncul biasanya juga ramai sekali, tetapi nyaris tidak satupun yang didasarkan pada hasil evaluasi memadai dari metode yang digunakan dalam riset itu sendiri. Yang biasa saya temukan, para ‘ahli’ ini berteori ini dan itu, berdebat ini dan itu tanpa pernah sekalipun membaca risetnya itu sendiri. Jadi yang diperdebatkan apa? eng.... tanya sama para ‘ahli’ itu saja ya... 

Nah, dari pengalaman tersebut dan pengalaman mengupload berita ini, saya ingin menyarankan, jika diperkenankan, apa yang sebaiknya dilakukan ketika membaca atau mendengar ‘berita tentang hasil riset mengatakan ...’. 

• Tanyakan atau cari terlebih dulu artikel asli yang merupakan laporan riset tersebut. Kalau ada orang berkata riset ini menunjukkan ini dan itu, harusnya dia juga baca dong risetnya. Jadi tanya saja, mana risetnya? Apa judulnya? Terbit di mana? Bisa minta copynya nggak? Atau kalau terbit di berita seperti ini, gunakan google scholar untuk mencari artikelnya.
• Kalau sudah diberikan artikel nya, coba cek dulu artikel ini yang nerbitin siapa atau lembaga apa? Apakah artikel ini terbit di jurnal yang proses publikasinya melalui peer review (artikel direview terlebih dulu oleh sejawat baik secara terbuka atau tertutup sebelum diputuskan untuk diterbitkan)? Mengapa ini penting? Karena review sejawat inilah yang menjadi salah satu kontrol baik isi maupun metode dari penelitian yang dijalankan. Meskipun tidak selalu artikel yang terbit di jurnal yang peer-reviewed pasti baik dan sebaliknya artikel yang terbit di jurnal yang tidak peer-reviewed pasti tidak baik. Namun demikian, dalam hal tingkat kepercayaan subjektif, jurnal dengan peer review memiliki tingkat ‘dapat dipercaya’ yang lebih tinggi daripada yang tanpa peer review.
• Nah, kalau sudah dicek dan ternyata artikel ini terbit di jurnal yang peer-reviewed, lalu? Ya dibaca. Ada kecenderungan yang saya amati, kalau mahasiswa (akademisi juga mungkin ya? hehe...) membaca jurnal, biasanya baca introduction terus loncat ke discussion atau conclusion, melewatkan bagian paling nyebahi : metode penelitian (apalagi baca bagian analisis statistik... No Way!). Padahal bagian ini merupakan bagian yang sama penting (jika tidak bisa dibilang paling penting) dari suatu laporan penelitian. Bagian ini yang seringkali menjadi dasar untuk menentukan seberapa besar kita bisa mempercayai hasil penelitian. Tanpa membaca bagian ini, kita tidak akan mendapatkan informasi memadai untuk, misalnya, menilai validitas internal dan eksternal penelitian ini, menilai apakah kesimpulan hasil analisisnya dapat dipercaya, termasuk kekuatan dan keterbatasan penelitian ini. Informasi di bagian ini juga-lah yang dapat dijadikan dasar untuk menilai apakah kesimpulan hasil riset dapat dipertanggunjawabkan dan pada akhirnya apakah klaim yang dinyatakan dalam riset ini atau berita yang memuat riset ini dapat dipercaya sebagai ‘benar’.

Saya pikir tiga langkah itu merupakan langkah-langkah minimal yang seharusnya dilakukan sebelum mensharing-kan atau mengomentari suatu artikel hasil penelitian, apalagi hanya beritanya saja.

Karena judul notes nya seperti itu, nanti di bagian kedua akan saya bahas seperti apa riset yang diacu oleh berita yang pernah saya share dulu.

Validitas Kesimpulan Penelitian (Bagian 2)

Tulisan ini merupakan lanjutan dari tulisan sebelumnya Validitas Kesimpulan Penelitian (Bagian 1). Dalam bagian ini, saya akan membahas dua tipe validitas yang berikutnya setelah dua lainnya dijelaskan di bagian pertama. 

3. Validitas Konstruk

Tipe validitas kesimpulan penelitian ini terkait dengan pertanyaan: "Apakah intervensi / tritmen dan / atau pengukuran yang dilakukan dalam suatu penelitian mewakili secara tepat konstruk yang hendak diwakili?". Misalnya jika seorang peneliti memilih melakukan perlakuan dalam bentuk berbicara di depan umum untuk mewakili konstruk situasi mencemaskan, maka apakah intervensi tersebut telah benar-benar mewakili konstruk 'situasi mencemaskan' tersebut. Validitas konstruk di sini berkenaan baik dengan intervensi maupun instrumen pengukuran. 

Ancaman terbesar terhadap validitas konstruk ini adalah "tindakan yang dimaksudkan untuk menggambarkan suatu konstruk mengenai sebab [variabel independen] atau akibat [variabel dependen] dapat ditafsirkan sebagai perwakilan dari lebih dari satu konstruk, yang masing-masing dinyatakan pada tingkatan reduksi yang sama"[1,hal 59]. Atau dengan kata lain, konstruk yang berbeda dapat memiliki operasionalisasi yang sama baik dalam bentuk intervensi maupun instrumen pengukuran. 

Beberapa ancaman lain terhadap validitas konstruk misalnya:

1. Bias peneliti, khususnya dalam penelitian eksperimental ketika peneliti tidak melakukan blind atau double blind sehingga muncul perlakuan eksperimenter yang berbeda terhadap kelompok kontrol di luar perlakuan yang menjadi tujuan penelitian.
2. Treatment diffusion, atau perlakuan yang 'bocor' akibat adanya komunikasi antara kelompok eksperimen dengan kelompok kontrol. 
3. Resentful demoralization, atau menurunnya semangat kelompok kontrol karena mereka tidak 'terpilih' sebagai kelompok yang memperoleh perlakuan. 
4. Compensatory rivalry, atau meningkatnya semangat kelompok kontrol sebagai usaha untuk menunjukkan bahwa mereka tetap memberikan hasil yang baik meskipun tidak menerima perlakuan. 
5. Eksplikasi konstruk preoperasional yang tidak tepat terjadi ketika peneliti kurang berhati-hati dalam menentukan komponen utama dari konstruk yang hendak dijadikan dasar penyusunan intervensi atau pengukuran. Eksplikasi konstruk ini tidak hanya meliputi usaha mendefinisikan konstruk dengan komprehensif tetapi juga memberikan batasan yang jelas dari konstuk-konstruk lainnya, khususnya konstruk yang berdekatan maknanya. 
6. Mono-operation bias, atau penggunaan hanya satu set perlakuan atau pengukuran untuk mewakili suatu konstruk, sementara ada beberapa kemungkinan set lain yang seharusnya dipertimbangkan. 

4. Validitas Eksternal

Validitas eksternal terkait dengan generalisasi hasil penelitian pada seluruh populasi atau lintas waktu dan keadaan. Kemampuan sampel untuk merepresentasikan populasi merupakan isu utama dalam validitas eksternal ini. Validitas eksternal dapat ditingkatkan dengan meningkatkan heterogenitas sampel, baik sampel subjek penelitian maupun sampel waktu dan keadaan.  

Pustaka

[1] Cook, T.D., & Campbell, D.T.(1979).Quasi-experimentation: Design and analysis issues for field settings. Chicago: Rand McNally.

Validitas Kesimpulan Penelitian (Bagian 1)

Validitas kesimpulan penelitian dalam tulisan ini didasarkan pada dua buku [1,2] yang menurut saya sangat lengkap membahas validitas kesimpulan penelitian. Dalam beberapa 'ajaran' di kelas metodologi yang saya ingat, biasanya istilah yang sering digunakan untuk menggambarkan validitas pengambilan kesimpulan ini adalah validitas penelitian. Istilah ini sepertinya dipilih untuk memilahnya dari validitas pengukuran. Saya pribadi lebih sreg dengan istilah validitas kesimpulan (inferensi) penelitian, karena yang dinilai valid adalah kesimpulan penelitiannya bukan penelitiannya itu sendiri. 

Valid berarti benar atau tepat. Kesimpulan penelitian dianggap valid jika kesimpulan tersebut dengan benar atau tepat menggambarkan fenomena yang diteliti. Misalnya: ketika peneliti menyimpulkan dari hasil penelitiannya bahwa ada pengaruh A terhadap B, maka kesimpulan ini dianggap valid bila realitasnya memang ada pengaruh A terhadap B. 

Validitas kesimpulan penelitian ini tentu saja tidak bersifat dikotomis (valid-tidak valid) dan tidak dapat diketahui dengan pasti. Namun demikian, peneliti dapat merencanakan dan menjalankan desain penelitian yang dianggap dapat memberikan bukti-bukti kuat (compelling evidence) yang mendukung kesimpulan penelitian. Dengan demikian, pembaca penelitian tersebut akan semakin diyakinkan bahwa kesimpulan penelitian memang dengan tepat menggambarkan fenomena yang diteliti. 

Ada 4 tipe validitas kesimpulan penelitian, yaitu [1,2]:

1. Validitas Kesimpulan Statistik
2. Validitas Internal
3. Validitas Konstruk
4. Validitas Eksternal

Ke-empat tipe validitas ini akan dibahas dalam tulisan kali termasuk ancaman-ancaman terhadap validitas kesimpulan penelitian dalam tipe tertentu. Penjelasan mendalam dapat diperoleh melalui dua pustaka yang saya sertakan di bawah. 

1. Validitas Kesimpulan Statistik

Validitas kesimpulan statistik terkait dengan pertanyaan: "apakah kesimpulan hasil analisis statistik sudah tepat?" Salah satu kesimpulan hasil analisis statistik yang sering diambil adalah apakah kita menolak atau gagal menolak hipotesis nol (H0: H nol). Ini berarti validitas kesimpulan statistik terkait dengan:

1. Jika kita menolak H0, apakah besarnya tipe kesalahan 1 (alpha:menolak H0 yang benar) sesuai dengan yang kita tetapkan di awal. Misalnya, jika kita telah menetapkan bahwa kita hanya mengijinkan alpha sebesar 0.05, apakah hasil analisis statistik yang kita peroleh benar-benar memiliki alpha sebesar 0.05. Ini terkait dengan isu mengenai pengujian yang terlalu liberal: pengujian statistik mengakibatkan alpha lebih besar daripada yang diharapkan. Misalnya, meskipun program analisis statistik p < 0.05, sebenarnya p memiliki nilai yang lebih besar dari alpha = 0.05. Kesalahan ini dapat mengakibatkan kita menganggap adanya efek atau korelasi atau perbedaan mean, yang sebenarnya tidak ada di populasi. 
2. Jika kita gagal menolak H0, apakah besarnya tipe kesalahan 2 (beta: gagal menolak H0 yang salah) tergolong kecil. Misalnya jika hasil analisis statistik menunjukkan tidak adanya perbedaan mean, maka apakah hasil ini memang diakibatkan tidak adanya perbedaan mean di populasi, atau hanya diakibatkan lemahnya sensitivitas analisis atau disebut juga power.  Pengujian statistik seperti ini disebut pengujian statistik yang terlalu konservatif. 

Ada beberapa ancaman yang dapat menyebabkan pengujian statistik menjadi terlalu liberal atau terlalu konservatif.

Pengujian statistik yang terlalu liberal, dapat diakibatkan oleh beberapa hal (catt: daftar di bawah ini tidak mencatat semua kemungkinan penyebab, oleh karena itu peneliti perlu memikirkan kemungkinan lainnya):

1.  Melakukan pengujian lebih dari satu kali untuk membuktikan satu hipotesis umum yang sama. Beberapa penulis menyebutnya sebagai familywise error rate  atau experimentwise error rate. Ancaman ini dapat diatasi dengan melakukan misalnya penyesuaian alpha yang dikehendaki dengan teknik-teknik seperti Bonferroni, Tukey, Scheffe, dan lain-lain. 
2. Pelanggaran asumsi oleh data penelitian. Pelanggaran asumsi dapat mengakibatkan baik uji statistik menjadi terlalu liberal atau konservatif. Ancaman ini dapat dikurangi dengan memilih analisis statistik yang robust terhadap pelanggaran asumsi oleh data. 
3. Estimasi efek yang bias karena didasarkan pada sampel. Misalnya estimasi R kuadrat merupakan estimasi yang bias terhadap kondisi R kuadrat di populasi. Oleh karena itu ada beberapa teknik yang ditawarkan untuk mengoreksi estimasi ini agar lebih mendekati nilai di populasi. 
4. Adanya researcher degrees of freedom [3,4], yaitu pilihan-pilihan peneliti yang terkait dengan desain penelitian yang dilakukan secara sembarangan, seperti pemilihan besarnya sampel, pemilihan variabel, dll. Misalnya peneliti mengumpulkan data mengenai banyak variabel kemudian 'memancing' variabel-variabel mana yang sekiranya berkorelasi satu dengan lain. Praktek ini akan meningkatkan probabilitas munculnya false positive  atau probabilitas kesalahan pengambilan kesimpulan mengenai parameter populasi ketika penelitian menunjukkan hasil yang signifikan.
5. Kesalahan spesifikasi model dalam analisis. Kesalahan ini akan menyebabkan bias estimasi parameter yang dapat berakibat pada hasil analisis yang terlalu liberal. Kesalahan ini dapat terjadi ketika peneliti mengabaikan variabel yang penting atau relevan di dalam analisisnya. Peneliti dapat menghindari kesalahan ini dengan melakukan studi literatur yang sekomprehensif mungkin dan memasukkan selengkap mungkin variabel-variabel yang penting dalam analisis. 

Pengujian statistik yang terlalu konservatif, atau dapat dipandang juga sebagai lemahnya power dari analisis yang dilakukan.  Lemahnya power ini merupakan kendala yang dialami banyak penelitian di Psikologi [5]. Ancaman ini dapat muncul karena beberapa hal: 

1. Ukuran sampel terlalu kecil. Cara yang paling sederhana untuk mengatasi ancaman ini adalah dengan merencanakan ukuran sampel sebelum penelitian. Ini dapat dilakukan dengan menggunakan power analysis [5]. 
2. Reliabilitas pengukuran yang terlalu rendah. Reliabilitas yang rendah akan berdampak pada melebarnya standard error dan bias estimasi parameter. Ini akan membuat analisis cenderung memberikan hasil yang tidak signifikan dibandingkan yang seharusnya. 
3. Variasi yang sangat besar pada subjek penelitian sehingga mengakibatkan besarnya standard error dari estimasi parameter. Ancaman ini dapat diatasi dengan mengendalikan variasi individu ini, misalnya dengan menggunakan statistik dengan memperlakukan variabel dengan variasi yang besar sebagai kovariat atau dengan memilih desain penelitian yang dapat mengurangi variasi ini seperti penggunaan desain penelitian amatan ulang atau penggunaan matched-pairs. 
4. Pelanggaran asumsi oleh data juga dapat menyebabkan lemahnya power dari analisis, oleh karena itu transformasi data atau penggunaan analisis statistik yang robust dapat dijalankan untuk mengatasi ancaman ini. 

2. Validitas Internal

Validitas internal merupakan validitas terkait dengan pengambilan kesimpulan mengenai hubungan kausal / adanya pengaruh antara variabel independen dan variabel dependen. Validitas internal akan makin tinggi ketika penelitian dapat menyajikan dukungan yang meyakinkan akan adanya hubungan kausal ini. Ada beberapa ancaman yang dapat membuat keyakinan akan hubungan kausal ini melemah: 

1. Bias seleksi; yaitu ketika karakteristik partisipan yang dikenai intervensi dan yang tidak memiliki perbedaan mencolok yang juga dapat mempengaruhi variabel dependen. Jika dalam penelitian tersebut diperoleh adanya perbedaan efek yang signifikan, maka akan muncul keraguan apakah efek ini dapat berasal dari intervensi yang diberikan atau akibat perbedaan karakteristik partisipan tadi. 
2. Subjek gugur / mortalitas; yaitu ketika partisipan dengan karakteristik tertentu tidak lagi dapat diambil datanya atau memutuskan tidak mau lagi terlibat dengan penelitian. Karakteristik partisipan ini berkaitan dengan variabel dependen, sehingga keluarnya partisipan ini akan mempengaruhi hasil analisis. Keraguan akan muncul mengenai efek yang terlihat atau tidak terlihat, apakah ini diakibatkan intervensi atau karena berkurangnya partisipan yang memiliki karakteristik penting. 
3. Pengetesan; yaitu perubahan skor tes dari subjek penelitian yang tidak diakibatkan oleh intervensi melainkan karena terbawanya efek saat pengetesan pertama. Ancaman ini relevan ketika peneliti merancang desain yang melibatkan amatan ulang. 
4. Regresi; yaitu perubahan skor seseorang pada variabel dependen, khususnya ketika orang tersebut memiliki skor yang ekstrim, yang diakibatkan oleh fenomena statistik bukan karena intervensi. 
5. Kematangan; yaitu perubahan skor tes yang tidak diakibatkan oleh intervensi, melainkan oleh kematangan subjek penelitian secara alami. 
6. Sejarah; yaitu perubahan skor tes yang tidak diakibatkan oleh intervensi, melainkan oleh peristiwa yang terjadi bersamaan dengan dilakukannya intervensi. 

Pustaka
[1]  Shadish, W., Cook. T. D., & Campbell, D. T.(2002). Experimental and quasi-experimental designs for generalized causal inference. Boston: Houghton Mifflin Company.

[2] Maxwell, S. & Delaney, H. (2004). Designing experiments and analyzing data : A model comparison perspective. New York, NY.: Psychology Press.

[3] Simmons, J., Nielson, L., and Simonsohn, U., (2011), False-positive psychology: Undisclosed flexibility in data collection an analysis allows presenting anything as significant. Psychological Science. 22(11): 1359 - 1366.

[4] John, L.K., Loewenstein, G., & Prelec, D. (2012). Measuring the Prevalence of Questionable Research Practices With Incentives for Truth Telling. Psychological Science 23(5):524 to 532.

[5] Cohen, J.(1998) Statistical power analysis for the behavioral sciences. Hillsdale, NJ: Lawrence Erlbaum Associates.

Kritik Artikel tentang Statistik: "Seven Deadly Sin of Statistical Analysis"[1]

Artikel yang saya kritik ini merupakan salah satu contoh artikel yang ditulis untuk 'membetulkan' praktek analisis statistik, tetapi justru memperkenalkan kesalahan-kesalahan lain di dalamnya. Saya menduga, penulis artikel ini bukan orang yang benar-benar mempelajari statistik dengan seksama (statistik bukan area utama yang dipelajari mereka). Kritik yang saya berikan ini juga menunjukkan bahwa kita juga perlu berhati-hati dalam mempelajari artikel-artikel yang ditulis mengenai praktek statistik, yang ditulis dalam Bahasa Inggris yang diterbitkan dalam media di luar negeri. Tidak semua penulis tentang topik statistik memahami benar apa yang mereka tulis. Perlu kiranya membandingkan tulisan-tulisan seperti ini dengan tulisan lain yang ditulis oleh orang yang dikenal memiliki publikasi dalam bidang statistik. Dalam hal ini, tulisan saya sendiri tidak terlepas dari kemungkinan memperkenalkan kesalahan-kesalahan juga. 

Sin 1: Using parametric analysis for ordinal data

Artikel tersebut me-rancukan antara analisis parametrik dan analisis yang mensyaratkan data kontinum pada variabel dependen. Analisis parametrik tidak sama dengan analisis yang berasumsi data pada variabel dependen memiliki sifat kontinum. Analisis parametrik adalah analisis yang berasumsi bahwa statistik mengikuti distribusi tertentu. Kebanyakan analisis yang dikenal selama ini memang mengasumsikan statistik mengikuti distribusi normal, yang tergolong dalam distribusi data kontinum, namun demikian sangat banyak bentuk distribusi lainnya yang tidak masuk dalam kategori kontinum. Misalnya regresi poisson (atau regresi log-linear) yang berasumsi data variabel dependen mengikuti distribusi poisson yang diskrit, atau regresi logistic yang berasumsi data variabel dependen mengikuti distribusi binomial yang juga diskrit. Kedua analisis tersebut termasuk dalam analisis parametrik, bukan non-parametrik, karena berasumsi mengenai distribusi statistik di populasi.
            Saran yang diberikan bahwa peneliti sebaiknya menggunakan analisis non-parametrik jika berurusan dengan data ordinal, tidak cukup layak diikuti karena dua hal. Pertama seperti yang disebutkan di atas, jika kita bisa berasumsi bahwa distribusi dari data variabel dependen mengikuti distribusi tertentu, dan menyusun cara estimasi parameter berdasarkan distribusi tersebut, maka analisis yang kita gunakan tergolong parametrik. Kedua, dalam banyak kejadian, seperti yang diamati oleh Howell (1982) dan Nunnally (tahun lupa), ketika data memiliki sifat ordinal dan dianalisis menggunakan teknik yang mengakomodasi data ordinal maupun kontinum, hasil yang diperoleh tidak jauh berbeda: Kesimpulan yang diperoleh hampir selalu sama. Ini khususnya jika data ordinal tersebut memiliki nilai yang variatif (misal jika skor bisa bergerak dari 0 hingga 7, maka hasil analisis dengan teknik analisis data ordinal maupun kontinum akan saling mendekati).  Hasil analisis baru akan memberikan hasil yang berbeda secara kentara, ketika data ordinal hanya memiliki kategori yang sangat sedikit.

 Sin 2: Inappropriate use of parametric analysis

Sepertinya penulis enggan berkomentar tentang pemenuhan asumsi pertama: the study must be randomly drawn… Karena dapat dikatakan, hampir tidak ada data yang dapat diambil secara random, kecuali dalam studi simulasi. Asumsi ini mendasari semua teknik analisis statistik yang ada selama ini, oleh karena itu jika penulis mengatakan should only be employed if they can be fulfilled, maka tidak ada satupun teknik analisis statistik yang dapat digunakan. Jadi ?
            Penulis sepertinya juga tidak benar-benar memahami permasalahan di seputar pengujian asumsi normalitas. Jika p>0.05, dapatkah dinyatakan asumsi dipenuhi? Tidak. Ini terkait dengan kesalahan interpretasi nilai p yang dianut orang selama ini.
            Permasalahan lain dengan uji non-parametrik adalah rendahnya power. Oleh karena itu, penggunaan analisis non-parametrik akan beresiko gagal mengidentifikasi efek yang sebenarnya ada di populasi. Sementara itu saat ini mulai banyak modifikasi analisis (analisis yang robust) yang dikembangkan yang memberikan hasil yang cukup memuaskan ketika pelanggaran asumsi baik distribusi maupun jenis data dilanggar.

 Sin 3: Failure to consider type 2 statistical error

Istilah yang digunakan penulis,  type 2 statistical error , tidak lazim. Istilah yang lebih lazim digunakan adalah type 2 error, yang terkait dengan keputusan yang diambil. Statistical error memiliki impresi ‘standard error’ bukan keputusan yang diambil mengenai hasil analisis.
            Penulis menuturkan bahwa ketika peneliti tidak melaporkan Beta (probabilitas melakukan kesalahan tipe 2), maka ini dianggap sebagai kesalahan serius. Permasalahannya adalah, Beta tidak dapat dihitung tanpa pengetahuan mengenai efek di populasi (bukan di sampel seperti yang tersirat dalam artikel tersebut). Definisi yang diberikan oleh penulis mengenai D juga keliru: D bukan perbedaan mean antara dua sampel melainkan perbedaan mean antara dua populasi. Penulis menggunakan lambang yang benar (mu) tetapi menginterpretasikannya secara keliru. Tentu saja kita dapat mengatakan bahwa D di sampel itu merupakan estimasi yang unbiased terhadap D di populasi, tetapi perlu diingat pula bahwa, karena berupa estimasi, maka D juga berfluktuasi. Oleh karena itu, D yang kita peroleh di sampel bisa saja berbeda dengan penelitian replikasi. Berikutnya, ini membuat Beta yang diperoleh bisa keliru jika D di sampel sangat jauh dari D di populasi. Ini sebabnya, Beta jarang dianjurkan untuk dipaparkan. Kita juga bisa mendekati D di populasi dengan informasi dari penelitian-penelitian sebelumnya. Namun demikian, ini berarti Beta yang kita peroleh tidak spesifik terkait dengan penelitian kita, sehingga kita tidak dapat mengevaluasi penelitian kita berdasarkan Beta ini.
            Analisis power untuk menentukan besarnya sampel, memang penting untuk dilakukan. Analisis power juga membutuhkan nilai D di populasi yang biasanya didekati dengan informasi dari penelitian-penelitian sebelumnya. Berbeda dengan pelaporan Beta di atas, penggunaan D dari penelitian-penelitian sebelumnya memiliki manfaat untuk menentukan besarnya sampel dalam penelitian yang akan dilakukan, agar power dari analisis yang kita lakukan memadai.
            Catt: Sejauh ini saya belum menemukan analisis power yang melibatkan analisis non-parametrik. Ini salah satu kesulitan lain penggunaan analisis non-parametrik.

 Sin 4: Using unmodified t-test for multiple comparisons

Pertama, penulis memperkenalkan istilah yang kurang lazim mengenai apa yang disebutnya cumulative probability of erroneously rejecting the null hypothesis. Yang sebenarnya dibahas oleh penulis bukan cumulative… tetapi familywise error rate  atau experimentwise error rate. Berapa kalipun melakukan pengujian statistik untuk hipotesis yang sama, cumulative … akan tetap sama dengan alpha yang ditentukan oleh peneliti, misalnya 0.05. Tetapi dalam suatu kejadian riset tertentu, pengujian hipotesis berkali-kali akan meningkatkan familywise error rate.
            ‘Rumus’ dasar yang dipaparkan oleh penulis merupakan rumus sederhana yang tidak aplikatif dalam kondisi tertentu. Contoh sederhana, jika saya hendak menggunakan alpha sebesar 0.05, maka dengan tiga puluh kali melakukan pengujian, yang penulis sebut sebagai cumulative…  akan sama dengan 1.5, yang mana tidak mungkin karena probabilitas tidak mungkin lebih dari satu. Rumus yang sebenarnya adalah

Di sini, p adalah besarnya alpha yang ditentukan dan k adalah banyaknya pengujian yang dilakukan. Dengan rumus ini, maka familywise error rate dengan tiga puluh kali pengujian akan sama dengan 0.7853.

Sin 5: Underutilized of ANCOVA, multivariate regression, nonlinear regression, and logistic regression

Ide penulis mengenai ancova terlalu sempit, hanya menekankan fungsi kontrol terhadap confounding variables, sementara fungsi ancova lain, misalnya untuk meningkatkan power dari analisis tidak dibahas.
            Penulis secara keliru menyebutkan jenis variabel kontinum (tanpa menyebut kriterion atau prediktor) sebagai batasan analisis multivariate regression, dan dalam contoh yang diberikan, melakukan generalisisasi berlebihan pada variabel-variabel prediktornya, padahal analisis regresi multivariate dapat mengakomodasi penggunaan variabel-variabel prediktor yang tidak kontinum, misalnya dengan menggunakan dummy coding.
            Penulis juga secara keliru menyebutkan bahwa regresi logistik dapat digunakan ketika variabel independen kategorik dimasukkan dalam analisis. Regresi logistic digunakan hanya ketika variabel dependen yang memiliki sifat kategorik bukan variabel independennya.

 Sin 6: Reporting standard error instead of standard deviation

Pertama, penulis menunjukkan ketidakpahamannya dengan standard error, meskipun definisi teknis yang diberikannya benar. Standard error adalah ‘standard deviasi’ dari statistik di populasi: rata-rata penyimpangan statistik dari parameternya. Definisi non-teknis ini sudah cukup untuk menjelaskan pentingnya melaporkan standard error dalam sebuah penelitian. Jika standard error besar maka hasil analisis yang kita peroleh memiliki tingkat kepercayaan yang lebih rendah (misalnya ketika membuat 95% CI yang lebar karena standard errornya besar).
            Meskipun standard deviasi juga merupakan informasi penting untuk disajikan karena memberitahu pembaca mengenai sebaran data di sampel, standard error memberikan informasi yang sama sekali berbeda yang juga dibutuhkan untuk menjustifikasi hasil analisis. Penulis gagal menunjukkan pentingnya kedua informasi ini untuk disajikan karena hanya menekankan pada kemudahan interpretasi dari standard deviasi. Maka sebenarnya ia juga melakukan dosa karena melaporkan SD hanya karena ‘mudah diinterpretasi’.

Referensi

[1] Kuzon, W.M.,Urbanchek, M.G., & McCabe, S. (1996). The seven deadly sins of statistical analysis. Annals of Plastic Surgery. Vol 37(3) : 265 - 272.

Kritik Penelitian: Perbandingan antara Mendengarkan Lantunan Kitab Suci* dan Mendengarkan Musik Klasik

Penelitian yang saya kritik ini adalah penelitian sesungguhnya, namun demikian judul penelitian saya ubah untuk menghindari sentimen agama. Ini saya lakukan dengan harapan pembaca lebih fokus pada kelemahan penelitian yang dilakukan, dan tidak terganggu dengan 'bungkus' agama-nya. Ini juga saya lakukan untuk menyadarkan pembaca, bahwa tidak semua penelitian yang terbit di luar negeri dan berbahasa inggris pasti benar. Banyak penelitian yang memiliki kelemahan yang cukup serius termasuk penelitian yang saya kritik ini. 

Sekilas mengenai Penelitian Ini

Penelitian ini hendak membandingkan pengaruh mendengarkan lantunan kitab suci dan mendengarkan musik klasik terhadap gelombang otak alpha yang diukur menggunakan EEG. Meningkatnya frekuensi gelombang alpha menunjukkan peningkatan kondisi rileks partisipan. Penelitian ini hendak membandingkan pola gelombang otak antara kedua intervensi, baik sebelum, pada saat dan setelah intervensi.

Partisipan penelitian terdiri dari 28 orang berusia antara 20 hingga 28 tahun. Peneliti memilih salah satu kitab dalam Kitab Suci untuk dilantunkan, sementara musik klasik yang dipilih adalah Canon D major oleh Palchelbel [1]. 

Prosedur eksperimen yang dijalankan sebagai berikut:

1. Sebelum eksperimen dimulai, peneliti mengambil data gelombang alpha partisipan terlebih dulu selama 5 menit sebagai sampel. Partisipan diminta untuk menutup mata dan dalam posisi rileks.Kemudian partisipan diberi waktu istirahat selama 1 menit. 
2. Peneliti memperdengarkan musik klasik selama 5 menit, sementara partisipan mendengarkan dengan menutup mata. Selama mendengarkan, gelombang alpha juga dicatat oleh peneliti. Kemudian partisipan diberi waktu istirahat selama 1 menit. 
3. Peneliti mengambil data gelombang alpha kembali selama 5 menit, dengan partisipan menutup mata. 
4. Sesi diakhiri dengan beristirahat, berbincang atau membaca majalah. 
5. Prosedur ini diulang di hari kedua dengan memperdengarkan lantunan Kitab Suci. 

Peneliti juga melakukan interview dengan menggunakan kuesioner untuk menggali beberapa informasi seperti seberapa sering mendengarkan musik, alasan mendengarkan musik, dan apakah mereka setuju bahwa mendengarkan lantunan Kitab Suci memberikan lebih banyak manfaat daripada musik. 

Hasil Penelitian Berdasarkan Laporan Peneliti

Hasil Interview

Delapan puluh persen (80%) partisipan mengaku bahwa mereka senantiasa mendengarkan musik, sementara 20% partisipan mengaku jarang. Alasan mendengarkan musik yang memiliki persentase terbesar adalah bosan (28%), disusul untuk kesenangan (26%) dan meredakan ketegangan (22%). Sementara 14% mendengarkan musik sebagai hobi dan 10 % mendengarkan musik karena sedih. 

Dari 28 partisipan tersebut, 97% setuju bahwa mendegarkan lantunan Kitab Suci memberi manfaat lebih besar daripada mendengarkan musik. 

Analisis Data EEG

Peneliti melaporkan partisipan no 11, 12, 23, 21, 25, serta mean dari tiap sesi, untuk tiap belahan otak untuk tiap intervensi. 

Partisipan no 11 dilaporkan mengalami keseimbangan gelombang otak alpha lebih besar ketika mendengarkan lantunan Kitab Suci dibandingkan ketika mendengarkan musik. Hasil yang sama juga tampak pada partisipan no 12. 

Partisipan no 23 menunjukkan penurunan gelombang otak alpha (yang menunjukkan kondisi makin tidak rileks) ketika mendengarkan musik, sementara mengalami kenaikan ketika mendengarkan lantunan Kitab Suci. 

Partisipan no 21 mengalami kenaikan gelombang otak alpha yang lebih besar ketika mendengarkan lantunan Kitab Suci dibandingkan ketika mendengarkan musik. 

Partisipan no 25 memiliki gelombang alpha yang stabil setelah mendengarkan lantunan Kitab Suci meskipun lebih kecil dibandingkan mendengarkan musik. Peneliti menyimpulkan dampak psikoterapi religius lebih bertahan lama. 

Perbandingan mean antara kedua intervensi, menunjukkan bahwa ketika mendengarkan musik klasik gelombang alpha pada otak kanan mengalami peningkatan sebesar 8.9%. Grafik yang ditampilkan juga menunjukkan keseimbangan gelombang alpha antara otak kanan dan kiri baik setelah mendengarkan musik maupun lantunan Kitab Suci. 

Besarnya korelasi antara besarnya gelombang alpha pada otak kanan dan kiri juga dipaparkan sebagai bukti keseimbangan antara otak kanan dan kiri akibat intervensi. Peningkatan nilai korelasi sebesar 12.67% terjadi ketika partisipan mendengarkan lantunan Kitab Suci, dibandingkan dengan peningkatan sebesar 9.96% ketika mendengarkan musik. 

Kesimpulan

1. Peneliti menyatakan adanya efek dari kedua intervensi terhadap gelombang otak. 
2. 12.67% sampel menunjukkan peningkatan gelombang alpha sebelum dan setelah mendengarkan lantunan Kitab Suci, sementara hanya 9.96% peningkatan ditemukan ketika mendengarkan musik.
3. Mendengarkan lantunan Kitab Suci dapat menghasilkan kondisi yang lebih rileks dan meningkatkan perhatian (more alert). 

Kritik Saya terhadap Penelitian Ini

Ada beberapa kelemahan dalam penelitian ini yang membuat saya sangat meragukan kesimpulan yang diambil. Saya mengklasifikasikannya dalam beberapa kategori [3,4]: Validitas Kesimpulan Statistik, Validitas Internal, Validitas Konstruk, dan Validitas Eksternal.

Validitas kesimpulan statistik.
Pada dasarnya dalam kategori ini sebuah penelitian diuji apakah kesimpulan yang diambil mengenai ada/tidak adanya efek / korelasi, sudah benar.

Saya memfokuskan pada hasil analisis data EEG saja dalam kritik ini. Peneliti melakukan kesalahan sangat fatal dalam mengambil kesimpulan penelitian yang diperoleh. Kesalahan tersebut adalah kesimpulan hanya didasarkan pada data yang mendukung dugaan peneliti saja. Sementara, gejala umum yang terjadi sebenarnya tidak mendukung dugaan peneliti. Misalnya:

1. Gejala umum yang dilihat dari mean gelombang alpha menunjukkan mendengarkan lantunan Kitab Suci cenderung menurunkan frekuensi gelombang alpha. Berikut screen shot dari histogram yang dibuat oleh peneliti dalam artikelnya.

Jika kita melihat grafik batang di atas, trend umum yang terjadi ketika mendengarkan lantunan Kitab Suci adalah gelombang alpha yang makin kecil (menunjukkan keadaan yang makin kurang rileks). Sementara ketika mendengarkan musik klasik, pola gelombang alpha berbeda antara belahan kanan dan kiri.

2. Jika kita menghitung proporsi partisipan yang mengalami peningkatan, maka

dapat disimpulkan bahwa proporsi partisipan yang mengalami peningkatan frekuensi gelombang alpha cenderung lebih banyak ketika kelompok mendengarkan musik klasik.

Dengan melihat pada dua grafik deskriptif ini, kita sudah bisa melihat kecerobohan peneliti dalam mengambil kesimpulan mengenai data.

3. Kelemahan berikutnya terkait dengan tidak dilakukannya uji signifikansi dalam penelitian tersebut. Saya melakukan uji signifikansi terhadap data tersebut dan menemukan bahwa, ketika mendengarkan musik klasik, tidak ada perbedaan frekuensi gelombang alpha yang signifikan antara sebelum, saat mendengarkan, dan sesudah mendengarkan musik klasik. Pada saat mendengarkan lantunan Kitab Suci, terdapat perbedaan gelombang alpha yang signifikan antara:

• Sebelum dan sesudah intervensi, pada belahan otak kiri: sebelum intervensi frekuensi gelombang alpha lebih tinggi daripada setelah intervensi. 
• Pada saat dan sebelum intevensi, pada belahan otak kanan: sebelum intervensi, frekuensi gelombang alpha lebih tinggi daripada saat intervensi.
• Sebelum dan sesudah intervensi, pada belahan otak kanan: sebelum intervensi frekuensi gelombang alpha lebih tinggi daripada setelah intervensi. 

Kesimpulan dari uji signifikansi tersebut menunjukkan bahwa mendengarkan lantunan Kitab Suci justru menurunkan frekuensi gelombang alpha yang merupakan indikasi kondisi partisipan makin tidak rileks. 

4. Dalam melakukan analisis korelasional antara belahan otak kanan dan kiri, peneliti hanya melaporkan besarnya peningkatan koefisien korelasi sebelum dan pada saat intevensi. Ketika mendengar musik klasik, peningkatan korelasi hanya 7.60% sementara ketika mendengar lantunan Kitab Suci terjadi peningkatan korelasi sebesar 12.67%. Peneliti tidak melaporkan penurunan korelasi yang terjadi setelah intervensi dilakukan. Penurunan korelasi setelah mendengarkan musik klasik hanya 6.02% sementara penurunan korelasi setelah mendengarkan lantunan kitab suci sebesar 11.18%. Peneliti hanya melaporkan bagian pertama untuk menunjukkan kelebihan dari mendengarkan lantunan kitab suci, sementara tidak melaporkan bagian kedua yang menunjukkan kelebihan musik klasik. (Catatan: angka 7.60 dan 6.02 merupakan hasil hitungan saya sendiri, karena hasil hitungan dalam penelitian tersebut berbeda dengan yang saya temukan). 

Kesalahan pengambilan kesimpulan ini sangat berbahaya karena mengarahkan orang untuk mempercayai adanya efek positif yang sebenarnya tidak ada atau yang sebenarnya bersifat negatif.  

5. Peneliti juga tidak mengendalikan variabel gender, padahal dalam beberapa studi ditunjukkan adanya perbedaan gelombang alpha antara laki-laki dan perempuan ([2]). Hasil analisis, oleh karena itu, berpotensi bias. 

Validitas Internal

Ada beberapa kelemahan penelitian dari segi ini:

1. Peneliti tidak melakukan counter-balancing urutan pemberian intervensi, meskipun memberikan jarak antara intervensi pertama dan kedua. Urutan pemberian intervensi bisa menyebabkan keraguan adanya efek, misalnya efek pada intervensi kedua bisa muncul karena efek yang terbawa dari intervensi pertama atau adanya efek Maturasi. 
2. Pemilihan partisipan juga kurang dijelaskan secara detil, misalnya apakah yang dipilih sebagai partisipan adalah mahasiswa yang beragama sama dengan acuan Kitab Suci yang dilantunkan. Selain itu familiaritas terhadap musik klasik nampaknya juga tidak dipertimbangkan dalam pengambilan partisipan. Agama dan familiaritas dapat berpengaruh terhadap hasil penelitian. 
3. Lamanya intervensi yang ditetapkan tidak memiliki basis argumen yang memadai: apakah secara teoretik lamanya intervensi (5 menit) memadai untuk menimbulkan efek.

Validitas Konstruk 

Ada paling tidak satu isu dalam penelitian ini terkait dengan validitas konstruk, yaitu penggunaan intervensi yang terbatas: hanya lantunan dari satu kitab saja tetapi digeneralisasi pada lantunan Kitab Suci dan hanya satu musik klasik saja tetapi digeneralisasikan pada Musik Klasik secara umum. Kelemahan ini terkait dengan mono-operation bias [3,4]. 

Validitas Eksternal

Penelitian ini memiliki keterbatasan validitas eksternal karena jumlah subjek yang terbatas sekaligus pengambilan sampel yang terbatas. Saya sangat memahami kondisi ini yang dapat diakibatkan besarnya biaya untuk melakukan eksperimen.  

Kesimpulan

Penelitian yang dirancang sangat baik sekalipun tidak akan lolos dari kelemahan-kelemahan penelitian, karena adanya keterbatasan waktu, tenaga dan biaya. Namun demikian, dalam pandangan saya, peneliti dalam artikel ini tergolong sangat ceroboh, jika tidak dapat dianggap dengan sengaja membengkokkan hasil penelitian agar terlihat mendukung dugaan peneliti. Peneliti mengabaikan banyak fakta dalam hasil penelitiannya yang tidak mendukung dugaannya, dan melaporkan efek penelitian yang mendukung secara berlebihan. 

Selain itu, entah karena sengaja atau karena ketidakpahaman, peneliti menuliskan kesimpulan dengan memelesetkan temuan. Dalam temuan angka 12.67% terkait dengan peningkatan korelasi antara belahan otak kanan dan otak kiri, tetapi dalam kesimpulan disebutkan 12.67% sampel mengalami peningkatan gelombang alpha. Pernyataan seperti ini jelas misleading informasi mengenai hasil temuan. 

Laporan penelitian seperti ini tidak selayaknya diterbitkan atau dikonsumsi publik. 

Catatan

*Kata "Kitab Suci" merupakan pengganti nama kitab suci yang disebutkan spesifik dalam tulisan aslinya. Saya memutuskan tidak menuliskannya di sini untuk menghindari perdebatan tidak perlu terkait dengan isu agama. Saya hanya ingin berdiskusi tentang permasalahan metode penelitian dalam penelitian ini saja.

Referensi

[1] Canon D Major by Palchebel. 

[2] M Matsuura ,K Yamamoto, H Fukuzawa, Y Okubo, H Uesugi, M Moriiwa, T Kojima, Y Shimazono. (1985). Age development and sex differences of various EEG elements in healthy children and adults — Quantification by a computerized wave form recognition method. Clinical Neurophysiology. Vol 60 (5): 394 - 406. DOI: http://dx.doi.org/10.1016/0013-4694(85)91013-2

[3] Shadish, W., Cook. T. D., & Campbell, D. T.(2002). Experimental and quasi-experimental designs for generalized causal inference. Boston: Houghton Mifflin Company. 

[4] Maxwell, S. & Delaney, H. (2004). Designing experiments and analyzing data : A model comparison perspective. New York, NY.: Psychology Press.

Kisah Sebuah Pertanyaan di Kelas Siang

Saya teringat sebuah diskusi dengan seorang mahasiswa mengenai pertanyaan mengapa mahasiswa psikologi perlu belajar metode penelitian dan mengerjakan skripsi? Diskusi itu tidak hanya dilakukan di kelas tapi juga di kantor. Saya sangat menghargai keterbukaan mahasiswa tersebut menanyakan pertanyaannya, yang saya yakin sebenarnya juga ada dalam pikiran banyak orang, tidak hanya mahasiswa. Berikut adalah kisah pertanyaan tersebut dan jawaban-jawaban saya. Tentu saja kejadian sebenarnya tidak tepat seperti yang dikisahkan, jawaban-jawaban saya dalam artikel ini juga sudah melalui pemikiran yang lebih lama. 

Pertanyaan itu (Kalo dalam Bahasa Inggris: The Question)

"Pak, mengapa kita perlu menulis skripsi? Mengapa perlu belajar metode penelitian?",seorang mahasiswa bertanya dengan gamblangnya di sebuah siang, ketika kuliah seminar (semacam persiapan penulisan skripsi) berlangsung.

"Sebelum saya jawab, saya tanya dulu ya. Apa yang kamu bayangkan tentang psikologi ketika kamu memilih untuk kuliah di bidang psikologi?", demikian tanggapan saya.

"Ya, saya belajar tentang teori-teori psikologi dan bagaimana menerapkannya dalam praktek nyata," jawabnya.

"Bisakah memberikan contoh agar pendapatmu menjadi lebih jelas?", tanya saya.

"Misalnya begini, Pak," jawab mahasiswa tersebut,"Saya belajar tentang psikologi perkembangan anak. Dari sana saya mengetahui bahwa kita harus melakukan ini dan itu agar seorang anak dapat bertumbuh optimal. Kalau saya nanti bekerja sebagai guru atau psikolog anak, saya dapat menerapkan pengetahuan ini untuk menolong anak bertumbuh optimal."

"Jadi boleh dibilang kamu mengharapkan akan belajar teknik-teknik, cara-cara, dan semacam tips dan trik aplikasi psikologi, begitukah?", saya menyimpulkan.

"Ya kurang lebih begitu, Pak", jawabnya.

"Pertanyaan saya berikutnya: Bagaimana kamu tahu kalau apa yang diajarkan oleh dosen itu benar?", tanya saya.

"Yah, kan dosen sudah ahlinya, Pak. Bisa juga baca di buku apakah penjelasan dosen sudah sesuai dengan buku acuannya. Kan nggak mungkin lah, Pak, dosennya sembarangan ngajarnya", jawabnya.

"Ya. Berasumsi bahwa semua dosen dan penulis buku memiliki integritas, maka mereka pasti tidak akan sembarangan mengajar atau menulis. Nah, kalaupun asumsi ini benar, mereka juga punya keterbatasan dalam menggali sumber-sumber untuk mengupdate pengetahuan mereka. Sementara ilmu pengetahuan terus berkembang" jawab saya.

"Tapi apakah ini berarti mahasiswa harus mengupdate semua pengetahuan mereka dengan melakukan semua penelitian sendiri?" ia bertanya lagi.

"Tentu saja tidak. Kalau seperti itu entah kapan kamu akan menguasai bahkan hal paling dasar tentang psikologi", jawab saya.

"Jadi?", mahasiswa itu kembali bertanya.

Psikologi adalah Bagian dari Ilmu Pengetahuan

Psikologi adalah bagian dari Ilmu Pengetahuan. Ya, banyak orang akan bilang,"Saya tahu". Tapi mungkin banyak dari yang merasa tahu itu tidak menyadari konsekuensi dari pernyataan tersebut. Konsekuensi dari "Psikologi adalah bagian dari ilmu pengetahuan" adalah metode untuk memproduksi pengetahuan menjadi isu penting, sama pentingnya dengan pengetahuan yang ingin didapatkan.

Bahkan lebih jauh lagi, metode untuk memproduksi pengetahuan menjadi kriteria untuk menilai apakah pengetahuan yang dihasilkan dapat dipercaya atau tidak. Jika metode yang digunakan tidak baik, maka pengetahuan yang dihasilkan tentunya akan diragukan 'kebenarannya'. Ini berarti :

1. Penilaian hanya dapat diberikan jika metode yang digunakan dalam memproduksi pengetahuan dipaparkan secara memadai. 
2. Penilaian mengenai 'kebenaran' pengetahuan yang dipaparkan sangat bergantung pada 'kebenaran' metode yang digunakan. 

Kembali pada pendapat dosen atau ahli, dapatkah kita percaya pada kebenaran pendapat mereka? Jika pendapat mereka didasarkan pada metode yang tepat, maka tentu saja kita bisa mempercayainya. Dalam hal ini, pendapat dosen dan para ahli baru bisa dinilai 'benar' hanya jika mereka juga memaparkan metode memperoleh pengetahuan mereka. 

Bagaimana jika mereka mengacu pada sumber-sumber lain? 

Jika demikian adanya, maka penilaian mengenai 'kebenaran' pendapat mereka bergantung pada ketepatan penggunaan metode dalam sumber-sumber yang diacu. Ini berarti, jika kita hendak mengetahui apakah pendapat dosen atau para ahli itu benar, kita perlu membaca sumber-sumber yang menjadi acuan mereka juga. 

Metode Penelitian dan Berpikir Logis-Kritis

Nah, untuk bisa menilai apakah metode yang digunakan dalam sumber-sumber itu sudah tepat, perlu bagi mahasiswa untuk memahami metode penelitian. Dengan demikian, mahasiswa dapat menilai apakah pengetahuan yang mereka peroleh dapat dipercaya, dengan menilai apakah metode memperoleh pengetahuan tersebut sudah tepat. Lebih jauh, kelak setelah mereka lulus, mereka dapat menilai sendiri pengetahuan-pengetahuan yang akan mereka temukan dalam kehidupan mereka. 

Belajar metode penelitian juga mendorong mahasiswa berpikir logis dan kritis. Pilihan metode tertentu harus didasarkan pada pertanyaan apa yang hendak dijawab penelitian, hasil review literatur, dan hipotesis / pertanyaan penelitian yang diajukan. Kesimpulan dari hasil penelitian juga harus sesuai dengan metode yang digunakan. Misalnya, tanpa metode eksperimental, sulit sekali untuk mengambil kesimpulan mengenai hubungan kausal. Nah, dalam sumber-sumber yang dibaca tersebut, evaluasi mengenai apakah semua komponen ini sudah selaras dapat dilakukan mahasiswa, hanya jika ia menguasai metode penelitian.

Bagaimana dengan skripsi? 

Saya sendiri berpendapat bahwa Skripsi merupakan sarana pembelajaran metode penelitian yang cukup menyeluruh bagi mahasiswa. Di dalamnya mahasiswa tidak hanya belajar statistik saja, atau metode penelitian saja tetapi berusaha menggabungkan semua pengetahuan mengenai metode penelitian (dan kuliah terkait) di dalamnya. Untuk memilih satu metode misalnya, mahasiswa perlu mengetahui metode-metode alternatif dan argumen tidak memilih argumen metode alternatif tersebut. 

Skripsi juga memberi kesempatan pada mahasiswa untuk melatih kemampuan mengambil kesimpulan logis dari berbagai sumber yang dibaca dan dari data, memikirkan strategi yang paling tepat berdasarkan sumber bacaan, mengantisipasi pelaksanaan rencana, membangun argumen yang tajam namun sopan, mengkomunikasikan baik diri sendiri maupun hasil penelitian, dll. Banyak sekali ketrampilan yang dilatih dalam pengerjaan skripsi. 

Membaca Artikel Hasil Penelitian

"Tentu saja mahasiswa tidak akan diminta untuk melakukan semua penelitian untuk menjustifikasi informasi yang ia dapatkan. Mahasiswa bisa membaca artikel-artikel hasil penelitian dan mengevaluasi apakah informasi yang ia didukung oleh temuan-temuan terkini", saya menjelaskan kembali. 

"Dalam membaca hasil penelitian ini",saya melanjutkan,"perlu kiranya pembaca tidak hanya membaca bagian diskusi atau kesimpulan atau abstraknya saja - seperti yang sering dilakukan selama ini oleh banyak mahasiswa (dan akademisi juga). Metode penelitian merupakan bagian yang sama pentingnya dengan hasil penelitian untuk dibaca. Karena bagian metode inilah yang dapat digunakan untuk menilai apakah kesimpulan yang diambil oleh peneliti dapat dipertanggungjawabkan. Saya memiliki contoh penelitian yang sangat sembrono dalam menarik kesimpulan (bisa dibaca di sini)". 

Kerugian yang Ditimbulkan Pseudoscience

"Tapi, Pak. Mengapa kita perlu getol sekali mengejar informasi yang benar? Kalaupun tidak benar, tidak ada masalah serius kan, Pak? Misalnya ada yang menyebutkan bahwa musik klasik ciptaan mozzart dapat meningkatkan inteligensi. Kalaupun toh itu salah juga tidak ada masalah serius bukan?" tanya mahasiswa tadi. 

"Ada dua kerugian yang bisa ditimbulkan oleh informasi yang keliru, atau saya sebut dengan pseudoscience:

1. Kerugian langsung baik dalam bentuk fisik, psikis, ekonomi, dll. Contoh paling konkret adalah praktek terapi yang keliru. Praktek terapi yang keliru bisa berujung pada bunuh diri, jika klien yang dilayani memiliki kecenderungan depresif berat. Atau bisa juga menyebabkan munculnya gangguan psikologis yang awalnya tidak diderita. Kasus lain misalnya terkait dengan kesaksian ahli yang berkontribusi menentukan nasib seorang terdakwa. Jika ahli tersebut memiliki informasi keliru, bisa terjadi seorang terdakwa yang berbahaya dilepaskan atau sebaliknya orang yang tidak bersalah masuk penjara. 
2. Kerugian tidak langsung dapat berupa teralihkannya sumber-sumber daya yang seharusnya bisa dialokasikan pada usaha-usaha yang lebih berguna. Misalnya pada kasus efek mozzart: Dana yang seharusnya bisa digunakan untuk meningkatkan gizi, yang jelas-jelas didukung secara ilmiah dapat meningkatkan inteligensi, akan teralihkan pada pembelian CD musik mozzart atau alat lain pendukungnya. 

Kerugian-kerugian seperti ini seringkali tidak terdeteksi karena psikologi berurusan dengan 'barang yang tidak kelihatan' yang dipengaruhi oleh banyak sekali faktor dan dampak yang tidak langsung. Oleh karena itu dampak dari kesalahan tidak segera dirasakan, karena 'tidak terlihat'. Selain itu, korban penderita dapat senantiasa dijadikan alasan penyebab ketidakmanjuran intervensi. Kita sering mendengar 'ahli' berkata,"Ya itu tergantung pada orang masing-masing," atau,"Semua ini kembali pada individu nya sendiri-sendiri", atau,"Klien, dalam ketidak-sadarannya, menolak intervensi", dan lain-lain."

Pengalaman dan Testimoni

"Tapi, Pak. Bukankah kita juga bisa belajar dari pengalaman?", tanya mahasiswa tersebut. 

"Benar. Tetapi pengalaman pribadi sangatlah terbatas dalam hal generalisasi dan kontrol terhadap bias. Jika saya melakukan intervensi tertentu, sangat manusiawi jika saya mengharapkan intervensi tersebut berhasil. Dan harapan ini akan berpengaruh pada penilaian saya mengenai keberhasilan intervensi, meskipun saya sudah berusaha jujur. 

Ada satu bab dalam buku 'House of Cards: Psychology and Psychotherapy Build on Myth' karya Robin M Dawes yang memaparkan kelemahan 'pengalaman' dalam menjustifikasi kebenaran informasi atau intervensi.

Hal yang sama juga dengan testimoni saya kira.

Itulah mengapa mahasiswa psikologi perlu belajar tentang metode penelitian. Untuk membekali dirinya sendiri agar terlindung dari pendapat 'ahli' yang keliru dan tidak berdasar, sekaligus melindungi masyarakat juga agar praktek psikologi dari lulusan psikologi tidak sembrono", jawab saya sekaligus menutup diskusi itu. 

Apa pendapatmu?

Satu-Satunya Kertas Pertanyaan dalam Kotak Gawat Darurat Statistik

Setelah kurang lebih sebulan saya meletakkan Kotak Gawat Darurat Statistik (dan lebih dari 3 bulan saya membuat website http://www.psikologistatistik.blogspot.com/ ) hanya ada secarik kertas dalam kotak pertanyaan ini. Apakah harus prihatin (karena berarti minat mahasiswa untuk bertanya atau diskusi tentang statistik dan pengukuran memang kurang) atau senang (karena sudah tidak ada lagi yang perlu ditanyakan karena semua sudah jelas) masih menjadi permenungan saya. (ataukah saya begitu menyeramkan sehingga bahkan menulis surat saja sudah ketakutan?...hehe).

Sebelumnya saya minta maaf karena baru sekarang ini menuliskan jawabannya. Karena jujur saja pertanyaan yang diajukan oleh sang penanya cukup filosofis buat saya. Sayang sekali penanya tidak mencantumkan identitasnya, tapi Terima Kasih telah memberikan tanggapan yang cukup berarti.

Ada beberapa pertanyaan yang diajukan oleh sang penanya, dan saya akan berusaha menjawab pertanyaan-pertanyaan tersebut sebaik mungkin :

1. Statistika itu apa?

Sebenarnya ini adalah pertanyaan keempat, tetapi saya jadikan pertanyaan pertama karena berkaitan dengan pemahaman mendasar tentang materi pertanyaan lain. Apa itu statistika? Pertanyaan ini pernah diajukan juga oleh seorang suami dari teman kerja saya juga. Statistika adalah cabang ilmu matematika yang berurusan dengan cara-cara/teknik-teknik pengorganisasian (sering berarti mereduksi) data dalam suatu bentuk yang lebih sederhana sehingga akan mudah untuk ‘dibaca’. 

Data yang kita peroleh dalam kehidupan sehari-hari dapat menjadi sangat banyak, sehingga dapat menimbulkan kebingungan jika tidak diorganisasikan. Misalnya sebagai mahasiswa anda memperoleh nilai untuk mata kuliah-mata kuliah yang telah diambil. Dalam satu semester anda bisa memperoleh 4-5 nilai. Dalam 2 tahun bisa diperoleh 16-20 nilai. Nilai-nilai itu tentu akan bervariasi, ada yang B, ada yang C bahkan mungkin D atau E. Jika anda ditanya bagaimana prestasi anda di bangku kuliah? Bagaimana menjawabnya? Apakah seperti ini: “Ya ada yang B ada yang C ada yang D, ada juga yang E.” ? Atau mungkin disebutkan semua nilainya? 

Tentu saja jika orang yang bertanya pada anda punya waktu cukup banyak untuk mendengar daftar nilai anda. Tapi ada cara yang lebih sederhana untuk ‘menceritakan’ prestasi anda. Dengan mencari rerata nilai anda dengan memperhitungkan jumlah sks yang telah diambil (yang kemudian disebut dengan IPK). Atau anda bisa juga menyebutkan nilai terbaik yang didapatkan dari semua mata kuliah yang telah diambil (nilai maksimal) atau nilai terburuk (nilai minimal). Dan banyak cara lainnya. Cara-cara untuk menyajikan data dengan sederhana inilah yang kemudian disebut dengan statistik. Well, semoga bisa menjawab pertanyaan di atas dengan memuaskan.

2. Kenapa kita butuh statistika?

Pertanyaan ini agak terjawab dengan penjelasan yang saya berikan di no 1. Mengapa kita butuh statistika? Karena di sekitar kita ada begitu banyak data kuantitatif (dalam bentuk angka) dan tentu saja kita tidak dapat mengelakkan diri dari data-data tersebut. Dan seringkali kita perlu menggunakan data tersebut atau menyajikannya baik pada diri sendiri maupun orang lain. Tidak jarang juga kita mengambil keputusan berdasarkan data tersebut.

Misalnya ketika kita akan memilih sebuah kelas yang diajar dosen A, kita merasa perlu tahu ‘medan perang’ dengan paling tidak bertanya-tanya pada orang yang pernah diajar dosen A. Atau kita bisa melihat track record dosen A tersebut dalam memberi nilai, apakah dia termasuk dosen pelit atau murah hati. Caranya? Tentu saja dengan melihat daftar nilai yang dikeluarkan dosen tersebut, dan membandingkan prosentase (baik secara intuitif maupun empiris) mahasiswa yang memperoleh A, B, C,D,dan E. Perbandingan ini akan kita jadikan dasar keputusan untuk mengambil kelas tersebut atau tidak. Bagi mahasiswa yang mencari tantangan (atau cari gara-gara?) tentu saja akan mengambil kelas yang prosentase A dan B jauh lebih kecil dari C.

Misalnya lagi, dalam sebuah polling mengenai isu reorganisasi lembaga kemahasiswaan, kita ingin tahu bagaimana sikap mahasiswa terhadap isu tersebut. Apakah secara umum mahasiswa setuju atau tidak setuju dengan adanya reorganisasi. Karena keterbatasan tenaga dan dana, maka yang ditanyai sikapnya hanyalah sampel dari mahasiswa. Setelah kita hitung proporsi yang setuju dan tidak, kita perlu mengetahui apakah dalam populasi juga berlaku proporsi yang ada dalam sampel. Maka kita perlu meminta bantuan statistika untuk menyelesaikannya.

Dan banyak lagi lainnya.

3. Gimana jadinya dunia ini tanpa statistika?

Wah… ini agak sulit jawabnya. Banyak sekali temuan ilmiah (khususnya dalam bidang psikologi yang saya tahu) didasarkan pada hasil analisis statistik, dari analisis yang sederhana sampai yang rumit. Kita mengenal tipe-tipe kepribadian yang muncul akhir-akhir ini (seperti Big 5 Personality Factor) karena adanya Teknik Analisis Faktor. Kita bisa mengembangkan tes kecerdasan dan menentukan tingkat kecerdasan dalam bentuk skor IQ karena adanya penggunaan mean dan standard deviasi, juga analisis kesalahan pengukuran.

Efektivitas terapi (baik psikologis maupun medis) seringkali juga dibuktikan dengan memanfaatkan analisis statistik.Selain itu juga adanya tingkat resiko penggunaan obat sebesar sekian persen, karena dibalik itu ada analisis statistik yang mengestimasi besarnya kemungkinan terjadinya resiko. Hal ini berlaku juga dengan crime rate, tingkat kematian ibu dan bayi, tingkat kecelakaan, resiko investasi, dsb.

Belum termasuk di dalamnya penelitian-penelitian yang berusaha mencari faktor yang dominan dari sekian banyak faktor yang ikut terlibat dalam mencetuskan wabah demam berdarah, yang memampukan kita untuk melakukan pencegahan wabah. Atau faktor yang ikut terlibat dalam terjadinya kenakalan remaja, sehingga kita bisa tahu apa yang perlu kita lakukan agar kaum muda kita tidak terlibat narkoba, dan kenakalan lain. Atau penelitian mengenai bahan-bahan tahan gempa dengan tingkat kelenturannya sendiri-sendiri. Dan masih banyak lainnya….

Can you imagine a world without such things?

4.Kenapa orang harus belajar statistika?

Tidak ada yang mengharuskan anda untuk belajar statistika. Anda bisa mengabaikannya. Tapi tentu saja statistika menjadi syarat agar bisa menyelesaikan kuliah di suatu program studi tertentu (misal psikologi).

Mengapa menjadi syarat di suatu program studi? Karena ada anggapan bahwa perkembangan ilmu di suatu program studi tersebut tidak dapat dilepaskan dari statistika. Temuan-temuan ilmiah yang diterapkan dalam ilmu tersebut banyak mendapat bantuan dari statistika. Pengujian efektivitas terapi, atau pengujian efektivitas pengajaran, dsb seringkali tidak dapat dipisahkan dari penggunaan teknik statistik.

Oleh karena itu, penting bagi orang-orang yang mempelajari ilmu tersebut, untuk mengetahui cara-cara yang telah dipakai untuk memperoleh ilmu yang mereka pelajari saat ini. Termasuk di dalamnya analisis statistik.

Harapan di balik itu tentu saja, agar kita bisa mengembangkan pengetahuan kita sendiri dengan baik, dan tidak terus menerus menjadi ‘budak pengetahuan’ atau ‘pelanggan tetap pengetahuan’ dari orang lain (atau bangsa lain). Kita harus bisa menjadi tuan atas pengetahuan ilmiah kita sendiri. Bisa kritis dan tidak terus menerus dibodohi oleh orang lain hanya karena kita benci angka.Ada orang bilang wah tes ini valid… ya ikut memakai, yang lain bilang terapi ini bagus… ya ikut-ikutan, dst. Ada yang bilang kos-kosan menyebabkan free sex… ya percaya saja, ada yang bicara tentang SQ-EQ-FQ-DQ-nanti mungkin ada QQ (kiyu-kiyu) ya kita manggut-manggut dengan takjub. Lalu kapan giliran kita yang bicara begitu?

Bagi saya pribadi, mempelajari statistika juga membantu dalam mendisiplinkan pola pikir. Baik dalam kehidupan sehari-hari maupun dalam kehidupan akademik. Misalnya berhati-hati dalam mengambil kesimpulan, khususnya tanpa data yang jelas. Atau tidak memegang asumsi secara berlebihan dengan pertimbangan tidak semua orang memegang asumsi yang sama, dsb.

Ya, tidak ada yang mengharuskan anda belajar statistika, tapi jika kita bisa memperoleh manfaat darinya mengapa tidak mencoba? Why don’t you give it a try?

5.Statistika sama Fisika enakan mana?

Saya tentu saja tidak bisa menjawab pertanyaan ini untuk anda karena masing-masing dari kita punya ketertarikan dan minat sendiri tentang dua bidang ilmu ini. Bagi saya keduanya jelas bidang ilmu yang sangat menarik dan mungkin saling terkait karena sama-sama menggunakan matematika sebagai ‘otak’nya.

Teman saya pernah bilang kalo sebuah bangsa ingin maju, maka bangsa itu harus menyukai paling tidak 3 hal : membaca, menulis, dan berhitung. (thanks …Seno)
Pesan saya cuma satu, jangan berhenti belajar hanya karena kamu tidak menyukainya. Kadang-kadang pelajaran paling berharga dalam hidup diperoleh dari pengalaman paling menyebalkan.

Well, it’s up to you boys / gals!