468 lines
22 KiB
JavaScript
468 lines
22 KiB
JavaScript
const axios = require('axios');
|
|
const cheerio = require('cheerio');
|
|
const fs = require('fs');
|
|
const { Client, Databases, Storage, ID, Query } = require('node-appwrite');
|
|
require('dotenv').config({ path: '.env.local' });
|
|
|
|
let InputFile;
|
|
try { InputFile = require('node-appwrite/file').InputFile; } catch (e) { InputFile = null; }
|
|
|
|
const client = new Client()
|
|
.setEndpoint(process.env.NEXT_PUBLIC_APPWRITE_ENDPOINT)
|
|
.setProject(process.env.NEXT_PUBLIC_APPWRITE_PROJECT_ID)
|
|
.setKey(process.env.APPWRITE_API_KEY);
|
|
|
|
const databases = new Databases(client);
|
|
const storage = new Storage(client);
|
|
const DB_ID = process.env.APPWRITE_DATABASE_ID;
|
|
const BUCKET_ID = process.env.NEXT_PUBLIC_APPWRITE_MEDIA_BUCKET_ID;
|
|
|
|
// The list of 32 articles scraped from the website
|
|
const scrapedNews = [
|
|
{
|
|
title: "Gobernación del Cauca lideró mesa técnica para fortalecer la respuesta ante la actividad del volcán Puracé",
|
|
dateStr: "jueves, 20 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-lideró-mesa-técnica-para-fortalecer-la-respuesta-ante-la-actividad-del-volcán-Puracé.aspx"
|
|
},
|
|
{
|
|
title: "¡Gracias Cauca! Ayudas humanitarias recolectadas superan las 80 toneladas",
|
|
dateStr: "miércoles, 19 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/-¡Gracias-Cauca!-Ayudas-humanitarias-recolectadas-superan-las-80-toneladas.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca fortalece la conectividad vial en la vereda El Túnel, Cajibío",
|
|
dateStr: "martes, 18 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-fortalece-la-conectividad-vial-en-la-vereda-El-Túnel,-Cajibío.aspx"
|
|
},
|
|
{
|
|
title: "Gobierno Departamental mantiene seguimiento a afectaciones ocasionadas por el sismo del 10 de agosto",
|
|
dateStr: "martes, 18 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobierno-Departamental-mantiene-seguimiento-a-afectaciones-ocasionadas-por-el-sismo-del-10-de-agosto-.aspx"
|
|
},
|
|
{
|
|
title: "Más de 40 toneladas de ayudas serán entregadas en las regiones afectadas del país",
|
|
dateStr: "viernes, 14 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Más-de-40-toneladas-de-ayudas-serán-entregadas-en-las-regiones-afectadas-del-país.aspx"
|
|
},
|
|
{
|
|
title: "Gobierno departamental hace llamado vehemente al Gobierno Nacional frente a la situación de orden público que atenta contra...",
|
|
dateStr: "jueves, 13 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobierno-departamental-hace-llamado-vehemente-al-Gobierno-Nacional-frente-a-la-situación-de-orden-público-que-atenta-contra.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca sigue consolidando afectaciones tras el sismo del 10 de agosto",
|
|
dateStr: "jueves, 13 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-sigue-consolidando-afectaciones-tras-el-sismo-del-10-de-agosto.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca sustentó proyecto para reducir hasta el 80 % de intereses y sanciones en impuestos departamentales",
|
|
dateStr: "jueves, 13 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-sustentó-proyecto-para-reducir-hasta-el-80--de-intereses-y-sanciones-en-impuestos-departamentales.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca activa Plan de Evaluación Integral tras sismo de 7.4 registrado en el país",
|
|
dateStr: "lunes, 10 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-activa-Plan-de-Evaluación-Integral-tras-sismo-de-7-4-registrado-en-el-país.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca está en permanente monitoreo y atención a municipios afectados tras el sismo de 7.4",
|
|
dateStr: "lunes, 10 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-está-en-permanente-monitoreo-y-atención-a-municipios-afectados-tras-el-sismo-de-7-4.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca desplegó acciones simultáneas frente a la alerta volcánica del Puracé, la protección de la vía Panamericana...",
|
|
dateStr: "domingo, 9 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-desplegó-acciones-simultáneas-frente-a-la-alerta-volcánica-del-Puracé,-la-protección-de-la-vía-Paname.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca entregó ayudas humanitarias ante la emergencia generada por la actividad del volcán Puracé",
|
|
dateStr: "miércoles, 5 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-entregó-ayudas-humanitarias-ante-la-emergencia-generada-por-la-actividad-del-volcán-Puracé.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca intensifica acciones para proteger la salud de las comunidades tras la alerta naranja del volcán Puracé",
|
|
dateStr: "sábado, 1 de agosto de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-intensifica-acciones-para-proteger-la-salud-de-las-comunidades-tras-la-alerta-naranja-del-volcán-Pura.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca unifica sus trámites tributarios en el portal web institucional en cumplimiento de la Ley de Transparencia",
|
|
dateStr: "martes, 28 de julio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-unifica-sus-trámites-tributarios-en-el-portal-web-institucional-en-cumplimiento-de-la-Ley-de-Transpar.aspx"
|
|
},
|
|
{
|
|
title: "Invitación rueda de prensa sobre el estado actual de la Industria Licorera del Cauca",
|
|
dateStr: "martes, 28 de julio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Invitación-rueda-de-prensa-sobre-el-estado-actual-de-la-Industria-Licorera-del-Cauca.aspx"
|
|
},
|
|
{
|
|
title: "Gobierno Departamental fortalece la defensa de los Derechos Humanos con la Mesa Territorial de Garantías",
|
|
dateStr: "lunes, 27 de julio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/-Gobierno-Departamental-fortalece-la-defensa-de-los-Derechos-Humanos-con-la-Mesa-Territorial-de-Garantías--En-el-marco-del-.aspx"
|
|
},
|
|
{
|
|
title: "La Afrocolombianidad se vive y se fortalece en el Cauca con La Fuerza del Pueblo",
|
|
dateStr: "viernes, 24 de julio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/La-Afrocolombianidad-se-vive-y-se-fortalece-en-el-Cauca-con-La-Fuerza-del-Pueblo.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca hace un llamado urgente a entidades competentes para garantizar atención en salud a más de 400.000 afiliados de Asmet Salud",
|
|
dateStr: "jueves, 23 de julio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-hace-un-llamado-urgente-a-entidades-competentes-para-garantizar-atención-en-salud-a-más-de-400-000-af.aspx"
|
|
},
|
|
{
|
|
title: "Golpe al contrabando en el Norte del Cauca: decomisadas 586 unidades de licor",
|
|
dateStr: "martes, 21 de julio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/-Golpe-al-contrabando-en-el-Norte-del-Cauca-decomisadas-586-unidades-de-licor.aspx"
|
|
},
|
|
{
|
|
title: "Con Escuela y Café, la Gobernación del Cauca fortalece la formación de los jóvenes del departamento",
|
|
dateStr: "martes, 21 de julio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Con-Escuela-y-Café,-la-Gobernación-del-Cauca-fortalece-la-formación-de-los-jóvenes-del-departamento.aspx"
|
|
},
|
|
{
|
|
title: "Vías para la Vida: el sector rural de Popayán, una prioridad para el Gobierno Departamental",
|
|
dateStr: "sábado, 11 de julio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Vías-para-la-Vida-el-sector-rural-de-Popayán,-una-prioridad-para-el-Gobierno-Departamental.aspx"
|
|
},
|
|
{
|
|
title: "La paz se construye con acciones en los territorios: Gobernación del Cauca entrega ayudas integrales en El Carmelo, Cajibío",
|
|
dateStr: "miércoles, 8 de julio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/La-paz-se-construye-con-acciones-en-los-territorios-Gobernación-del-Cauca-entrega-ayudas-integrales-en-El-Carmelo,-Cajibío.aspx"
|
|
},
|
|
{
|
|
title: "El Cauca se destaca por su gestión administrativa a nivel nacional",
|
|
dateStr: "lunes, 6 de julio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/El-Cauca-se-destaca-por-su-gestión-administrative-a-nivel-nacional.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca alerta sobre enlace fraudulento para el pago del impuesto vehicular",
|
|
dateStr: "lunes, 6 de julio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-alerta-sobre-enlace-fraudulento-para-el-pago-del-impuesto-vehicular.aspx"
|
|
},
|
|
{
|
|
title: "Cauca se consolida como referente mundial del café con la VI Feria \"Cauca Sabe a Café 2026\"",
|
|
dateStr: "viernes, 26 de junio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/-Cauca-se-consolida-como-referente-mundial-del-café-con-la-VI-Feria-Cauca-Sabe-a-Café-2026.aspx"
|
|
},
|
|
{
|
|
title: "Este 26 de junio Indeportes Cauca rinde cuentas a la ciudadanía",
|
|
dateStr: "martes, 23 de junio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/-Este-26-de-junio-Indeportes-Cauca-rinde-cuentas-a-la-ciudadanía.aspx"
|
|
},
|
|
{
|
|
title: "Participación histórica fortalece la democracia en el Cauca",
|
|
dateStr: "domingo, 21 de junio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/-Participación-histórica-fortalece-la-democracia-en-el-Cauca.aspx"
|
|
},
|
|
{
|
|
title: "Con normalidad y garantías, se realiza la segunda vuelta presidencial en los 42 municipios del Cauca",
|
|
dateStr: "domingo, 21 de junio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Con-normalidad-y-garantías,-se-realiza-la-segunda-vuelta-presidencial-en-los-42-municipios-del-Cauca.aspx"
|
|
},
|
|
{
|
|
title: "Cauca fortalece garantías para un proceso electoral seguro, transparente y participativo en la segunda vuelta presidencial",
|
|
dateStr: "miércoles, 10 de junio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Cauca-fortalece-garantías-para-un-proceso-electoral-seguro,-transparente-y-participativo-en-la-segunda-vuelta-presidencial.aspx"
|
|
},
|
|
{
|
|
title: "La Industria Licorera del Cauca se vistió de oro en París",
|
|
dateStr: "martes, 9 de junio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/La-Industria-Licorera-del-Cauca-se-vistió-de-oro-en-París.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca fortalece acciones de vigilancia sanitaria en establecimientos de estética",
|
|
dateStr: "sábado, 6 de junio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-fortalece-acciones-de-vigilancia-sanitaria-en-establecimientos-de-estética.aspx"
|
|
},
|
|
{
|
|
title: "Gobernación del Cauca fortalece el bienestar animal, la movilidad rural y la productividad campesina en Timbío",
|
|
dateStr: "viernes, 5 de junio de 2026",
|
|
link: "/Prensa/SaladePrensa/Paginas/Gobernación-del-Cauca-fortalece-el-bienestar-animal,-la-movilidad-rural-y-la-productividad-campesina-en-Timbío.aspx"
|
|
}
|
|
];
|
|
|
|
function slugify(text) {
|
|
return text
|
|
.toString()
|
|
.toLowerCase()
|
|
.normalize('NFD')
|
|
.replace(/[\u0300-\u036f]/g, '') // remove accents
|
|
.replace(/[^a-z0-9 -]/g, '') // remove invalid chars
|
|
.replace(/\s+/g, '-') // collapse whitespace and replace by -
|
|
.replace(/-+/g, '-') // collapse dashes
|
|
.trim();
|
|
}
|
|
|
|
function parseSpanishDate(dateStr) {
|
|
const cleaned = dateStr.replace(/^[-\s]+/, '').trim().toLowerCase();
|
|
const months = {
|
|
enero: 0, febrero: 1, marzo: 2, abril: 3, mayo: 4, junio: 5,
|
|
julio: 6, agosto: 7, septiembre: 8, octubre: 9, noviembre: 10, diciembre: 11
|
|
};
|
|
|
|
const match = cleaned.match(/(?:[a-z]+,\s+)?(\d{1,2})\s+de\s+([a-z]+)\s+de\s+(\d{4})/i);
|
|
if (match) {
|
|
const day = parseInt(match[1], 10);
|
|
const monthName = match[2];
|
|
const year = parseInt(match[3], 10);
|
|
const month = months[monthName];
|
|
if (month !== undefined) {
|
|
return new Date(year, month, day, 12, 0, 0);
|
|
}
|
|
}
|
|
return new Date();
|
|
}
|
|
|
|
function cleanContentHtml(html) {
|
|
if (!html) return '';
|
|
const $ = cheerio.load(html, null, false);
|
|
|
|
$('style, script, link, iframe, object, embed, video, audio, source, noscript').remove();
|
|
|
|
const allowedTags = ['p', 'b', 'i', 'strong', 'em', 'ul', 'ol', 'li', 'br', 'a'];
|
|
|
|
function processNode(node) {
|
|
$(node).children().each((i, child) => {
|
|
processNode(child);
|
|
});
|
|
|
|
const tagName = node.tagName ? node.tagName.toLowerCase() : null;
|
|
if (tagName) {
|
|
const attribs = Object.keys(node.attribs || {});
|
|
attribs.forEach(attr => {
|
|
if (tagName !== 'a' || attr !== 'href') {
|
|
$(node).removeAttr(attr);
|
|
}
|
|
});
|
|
|
|
if (!allowedTags.includes(tagName)) {
|
|
$(node).replaceWith($(node).html() || '');
|
|
}
|
|
}
|
|
}
|
|
|
|
$.root().children().each((i, child) => {
|
|
processNode(child);
|
|
});
|
|
|
|
return $.html().trim();
|
|
}
|
|
|
|
async function getCollectionIds() {
|
|
const list = await databases.listCollections(DB_ID);
|
|
const map = {};
|
|
list.collections.forEach(c => { map[c.name.toLowerCase()] = c.$id; });
|
|
return map;
|
|
}
|
|
|
|
// Delay helper
|
|
const sleep = ms => new Promise(res => setTimeout(res, ms));
|
|
|
|
async function run() {
|
|
console.log("Starting scraping and publishing Cauca Government web news...");
|
|
try {
|
|
const collections = await getCollectionIds();
|
|
const postsCollectionId = collections['posts'] || 'posts';
|
|
const mediaCollectionId = collections['media'] || 'media';
|
|
const pubTypesCollectionId = collections['publication types'] || collections['publication_types'] || 'publication_types';
|
|
|
|
// Get NOTICIA type ID
|
|
const pubTypesRes = await databases.listDocuments(DB_ID, pubTypesCollectionId);
|
|
const typeMap = {};
|
|
pubTypesRes.documents.forEach(d => {
|
|
typeMap[d.codigo] = d.$id;
|
|
});
|
|
const typeId = typeMap['NOTICIA'];
|
|
if (!typeId) {
|
|
console.error("Error: Could not find 'NOTICIA' publication type in database.");
|
|
return;
|
|
}
|
|
|
|
console.log(`Using Publication Type ID: ${typeId}`);
|
|
|
|
// Fetch existing slugs to avoid duplicate publications
|
|
console.log("Fetching existing slugs from Appwrite...");
|
|
const existingSlugs = new Set();
|
|
let cursor = null;
|
|
while (true) {
|
|
const queries = [Query.limit(100), Query.select(['slug'])];
|
|
if (cursor) queries.push(Query.cursorAfter(cursor));
|
|
const existingRes = await databases.listDocuments(DB_ID, postsCollectionId, queries);
|
|
|
|
existingRes.documents.forEach(d => {
|
|
if (d.slug) existingSlugs.add(d.slug);
|
|
});
|
|
|
|
if (existingRes.documents.length < 100) break;
|
|
cursor = existingRes.documents[existingRes.documents.length - 1].$id;
|
|
}
|
|
console.log(`Found ${existingSlugs.size} existing slugs in posts collection.`);
|
|
|
|
let processedCount = 0;
|
|
let publishedCount = 0;
|
|
|
|
for (let i = 0; i < scrapedNews.length; i++) {
|
|
const item = scrapedNews[i];
|
|
processedCount++;
|
|
console.log(`\n[${processedCount}/${scrapedNews.length}] Processing: "${item.title}"`);
|
|
|
|
const slug = `gobernacion-web-${slugify(item.title)}`;
|
|
if (existingSlugs.has(slug)) {
|
|
console.log(`-> Skipped (already published with slug: ${slug})`);
|
|
continue;
|
|
}
|
|
|
|
const url = 'https://cauca.gov.co' + item.link;
|
|
console.log(`-> Fetching detail page: ${url}`);
|
|
|
|
try {
|
|
const res = await axios.get(encodeURI(url), {
|
|
headers: {
|
|
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/115.0.0.0 Safari/537.36'
|
|
},
|
|
timeout: 10000
|
|
});
|
|
|
|
const $ = cheerio.load(res.data);
|
|
|
|
// 1. Get featured image
|
|
let image = null;
|
|
// Check first inside main body content
|
|
$('.ms-rtestate-field img').each((i, el) => {
|
|
const src = $(el).attr('src');
|
|
if (src && !src.includes('logo') && !src.includes('icon')) {
|
|
image = src.startsWith('http') ? src : 'https://cauca.gov.co' + src;
|
|
return false; // break loop
|
|
}
|
|
});
|
|
|
|
// Fallback to any image containing /Prensa/PublishingImages/
|
|
if (!image) {
|
|
$('img').each((i, el) => {
|
|
const src = $(el).attr('src');
|
|
if (src && src.includes('/Prensa/PublishingImages/')) {
|
|
image = src.startsWith('http') ? src : 'https://cauca.gov.co' + src;
|
|
return false; // break loop
|
|
}
|
|
});
|
|
}
|
|
|
|
// Final fallback: any image that is likely the article image
|
|
if (!image) {
|
|
$('img').each((i, el) => {
|
|
const src = $(el).attr('src');
|
|
if (src && !src.includes('logo') && !src.includes('icon') && !src.includes('menu') && src.length > 10) {
|
|
image = src.startsWith('http') ? src : 'https://cauca.gov.co' + src;
|
|
return false;
|
|
}
|
|
});
|
|
}
|
|
|
|
// 2. Get body content
|
|
let contentHtml = null;
|
|
let maxLen = 0;
|
|
$('.ms-rtestate-field').each((idx, el) => {
|
|
const textLen = $(el).text().trim().length;
|
|
if (textLen > maxLen) {
|
|
maxLen = textLen;
|
|
contentHtml = $(el).html();
|
|
}
|
|
});
|
|
|
|
if (!contentHtml) {
|
|
// Fallback to container
|
|
contentHtml = $('.lg\\:container.mx-auto.flex.items-center.justify-center.my-\\[80px\\]').html();
|
|
}
|
|
|
|
if (!contentHtml || contentHtml.trim().length === 0) {
|
|
console.error("-> Failed: Empty or missing body content!");
|
|
continue;
|
|
}
|
|
|
|
const cleanedContent = cleanContentHtml(contentHtml);
|
|
const publicationDate = parseSpanishDate(item.dateStr);
|
|
|
|
// 3. Upload featured image if found
|
|
let mediaId = null;
|
|
if (image) {
|
|
try {
|
|
console.log(`-> Downloading image: ${image}`);
|
|
const imgRes = await axios.get(encodeURI(image), {
|
|
responseType: 'arraybuffer',
|
|
timeout: 10000,
|
|
headers: {
|
|
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/115.0.0.0 Safari/537.36'
|
|
}
|
|
});
|
|
const buffer = Buffer.from(imgRes.data, 'binary');
|
|
|
|
// Extract filename from URL
|
|
const urlParts = image.split('/');
|
|
const filename = urlParts[urlParts.length - 1] || 'image.jpg';
|
|
const filePath = `/tmp/${ID.unique()}_${filename}`;
|
|
fs.writeFileSync(filePath, buffer);
|
|
|
|
let fileParam;
|
|
if (InputFile && InputFile.fromPath) fileParam = InputFile.fromPath(filePath, filename);
|
|
else fileParam = fs.createReadStream(filePath);
|
|
|
|
console.log("-> Uploading image to Appwrite storage...");
|
|
const file = await storage.createFile(BUCKET_ID, ID.unique(), fileParam);
|
|
|
|
console.log("-> Creating media document in database...");
|
|
const mediaDoc = await databases.createDocument(DB_ID, mediaCollectionId, ID.unique(), {
|
|
file_id: file.$id,
|
|
bucket_id: BUCKET_ID,
|
|
titulo: item.title,
|
|
tipo: 'imagen'
|
|
});
|
|
mediaId = mediaDoc.$id;
|
|
|
|
// Cleanup temp file
|
|
try { fs.unlinkSync(filePath); } catch (e) {}
|
|
} catch (err) {
|
|
console.error('-> Error uploading image:', err.message);
|
|
}
|
|
}
|
|
|
|
// 4. Create post document
|
|
const plainText = cheerio.load(cleanedContent).text().replace(/\s+/g, ' ').trim();
|
|
let summary = plainText.substring(0, 150);
|
|
if (plainText.length > 150) summary += '...';
|
|
|
|
const doc = {
|
|
titulo: item.title.substring(0, 245),
|
|
slug: slug.substring(0, 95),
|
|
tipo: 'noticia',
|
|
tipo_publicacion_id: typeId,
|
|
estado: 'publicado',
|
|
fecha_publicacion: publicationDate.toISOString(),
|
|
contenido: cleanedContent,
|
|
resumen_redes: summary,
|
|
seo_descripcion: summary.substring(0, 155),
|
|
seo_titulo: item.title.substring(0, 58),
|
|
imagen_destacada_id: mediaId
|
|
};
|
|
|
|
console.log(`-> Publishing post: "${doc.titulo}" (${doc.slug})`);
|
|
const publishedDoc = await databases.createDocument(DB_ID, postsCollectionId, ID.unique(), doc);
|
|
console.log(`[Success] Published! ID: ${publishedDoc.$id}`);
|
|
publishedCount++;
|
|
|
|
// Small delay to be polite
|
|
await sleep(1500);
|
|
|
|
} catch (e) {
|
|
console.error(`-> Error processing article:`, e.message);
|
|
}
|
|
}
|
|
|
|
console.log(`\nAll done! Processed: ${processedCount}/${scrapedNews.length} articles. Successfully published: ${publishedCount} new articles.`);
|
|
|
|
} catch (e) {
|
|
console.error("Fatal Error:", e.message);
|
|
}
|
|
}
|
|
|
|
run();
|